Portada de La era del capitalismo de la vigilancia, de Shoshana Zuboff, sobre fondo pastel de IAConSentido.

La era del capitalismo de la vigilancia: ¿quién decide qué hacer con tus datos?

Hoy hablamos de: La era del capitalismo de la vigilancia, de Shoshana Zuboff, y de algo que merece una pausa: ¿qué permites que ocurra con tu información cuando utilizas un servicio digital?

IAConSentido · Lecturas con criterio

La era del capitalismo de la vigilancia: ¿quién decide qué hacer con tus datos?

Una pregunta sobre tus datos para decidir qué compartes, con qué propósito y bajo qué condiciones.

Portada de La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder, de Shoshana Zuboff.
Portada editorial de La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder. Fuente oficial.

La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder
Shoshana Zuboff · Paidós · 29 septiembre 2020 · Español
Traducción: Albino Santos Mosquera
ISBN: 9788449336935
Consultar la ficha oficial del libro

¿De qué trata La era del capitalismo de la vigilancia?

Zuboff analiza un modelo de negocio que convierte la información sobre nuestra conducta en un recurso económico. Su preocupación va más allá de guardar datos: examina el poder que adquieren las empresas cuando buscan predecir e influir en lo que hacemos. El libro conecta esa actividad con preguntas sobre libertad, poder y organización social.

La edición española de Paidós presenta una investigación sobre las consecuencias sociales, políticas y comerciales de ese modelo. Es un ensayo amplio para comprender la economía digital, no una guía de configuración de privacidad ni un estudio de los asistentes generativos actuales. Consulta la ficha editorial de Paidós.

Autonomía y agencia · Libertad y protección

Dirección H ↔ IA → Org./Soc. · Pilar E · Estrategia / Autonomía · Taxonomía IAConSentido

¿Por qué lo incluyo entre los libros sobre riesgos humanos de la IA?

Porque te ayuda a ampliar una pregunta cotidiana. Cuando pruebas una herramienta, probablemente te interesa saber si funciona, cuánto cuesta y cuánto tiempo te ahorra. Yo añadiría otra: ¿qué necesita saber de ti para darte ese servicio, y qué podrá hacer después con esa información?

Piensa en esta situación hipotética: utilizas una aplicación para organizar tu semana. Introduces horarios, lugares y comentarios personales porque quieres recomendaciones útiles. Antes de añadir más detalles, te conviene distinguir qué información es necesaria para esa tarea y cuál estás compartiendo por comodidad. La escena es hipotética y no atribuye una práctica concreta a una empresa.

Desde mi Taxonomía IAConSentido, relaciono esa pregunta con Autonomía y agencia: quiero que puedas elegir con información suficiente. También con Seguridad, privacidad y dignidad: tus datos pueden describir aspectos de tu vida que no necesitan formar parte de una consulta. Esta clasificación es mía, no de Zuboff.

3 cosas que puedes revisar antes de compartir más

1. Para qué necesitas realmente la herramienta

Escribe tu objetivo en una frase. Si quieres organizar una agenda, quizá baste con indicar espacios disponibles, sin contar por qué tienes una cita. Si necesitas una plantilla de correo, puedes usar nombres ficticios. No todas las tareas requieren el mismo contexto. Yo empezaría por la versión que expone menos información y añadiría únicamente lo que haga falta.

2. Qué uso de los datos está explicado

Busca información sobre conservación, entrenamiento de modelos, acceso de terceros y opciones de borrado. Son cuestiones distintas: que una conversación no se utilice para entrenar un modelo no responde por sí solo a cuánto tiempo se guarda. Si una condición no está clara, anota la duda en lugar de dar por hecho que te favorece. En el trabajo, consulta las herramientas y los usos autorizados por tu organización.

3. Qué decisiones quieres seguir tomando tú

Una recomendación puede ayudarte a comparar alternativas. Antes de aceptarla, identifica tus propios criterios: presupuesto, tiempo, prioridades o aquello que prefieres no compartir. Después revisa si las opciones responden a esos criterios. Si no sabes por qué una sugerencia aparece primero, puedes pedir una explicación y contrastarla fuera de la herramienta, sin suponer que esa explicación revela todo su funcionamiento.

Una pausa que propongo desde el Método SENSE

Para llevar esta reflexión a tu próxima consulta, te propongo hacer 2 columnas: información necesaria e información que puedo omitir. Revisa especialmente lo que pertenece a otras personas. Que tengas un documento en tu computadora no significa que debas introducirlo completo en una herramienta externa.

Este ejercicio es mi aplicación del Método SENSE. No es una actividad extraída del libro ni una garantía de privacidad. Su utilidad está en hacer visible una decisión que a veces resolvemos demasiado rápido. Si necesitas compartir información confidencial, hacen falta las autorizaciones y condiciones adecuadas, cambiar un nombre puede no bastar para anonimizarla.

Lo que conviene distinguir al llevarlo a la IA actual

Te propongo utilizar el argumento de Zuboff como una pregunta crítica, no como un veredicto automático sobre cualquier servicio. Una herramienta local, una cuenta empresarial y una aplicación pública pueden operar con condiciones diferentes. Para describir una práctica concreta, necesitas revisar la documentación de ese producto y las circunstancias de uso.

Tampoco pondría toda la responsabilidad en la persona que acepta un formulario. Las organizaciones deben explicar sus prácticas y asumir sus obligaciones. Tus decisiones importan, pero no sustituyen un diseño responsable ni una supervisión efectiva.

Preguntas frecuentes

¿Este libro trata sobre ChatGPT?

La edición presentada es de 2020 y aborda el capitalismo de la vigilancia. La conexión que hago aquí con los asistentes actuales sirve para revisar datos, finalidades y autonomía, no atribuye al libro un análisis de productos posteriores.

¿Evitar todos los servicios digitales es la propuesta?

Mi propuesta es empezar por una tarea concreta y revisar sus condiciones. Puedes aprovechar una herramienta y, al mismo tiempo, limitar lo que compartes y decidir qué prefieres resolver por otra vía.

Fuentes consultadas

Para seguir explorando

¿Qué pregunta te gustaría llevar a tu próxima lectura? Puedes encontrar otros puntos de vista en mi selección de libros sobre riesgos humanos de la IA.

Sigamos esta conversación

En IAConSentido comparto cada sábado preguntas y recursos para convivir con la IA con criterio. También puedes empezar por el Semáforo de Riesgo Humano.

Karine Boucher — Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
MIT · Ciencia de Datos Gobernanza IA Método SENSE TEDxCancún Women in AI Governance MX · Presidenta +25 años experiencia internacional Especialista en Riesgos Humanos de la IA

Karine Boucher
Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE

Soy Karine, profesional franco-mexicana con más de 25 años de experiencia en entornos internacionales. Creé el Método SENSE para ofrecer lo que los marcos técnicos de gobernanza no dan: herramientas protectoras, claras y utilizables en la vida real — especialmente para familias y educadores.

Formada en Ciencia de Datos en el MIT y especializada en riesgos humanos de la IA, gobernanza y ética aplicada. Creo que la pregunta más urgente de nuestro tiempo es cómo seguir siendo humanos mientras convivimos con la IA.

LinkedIn Newsletter karine.ai Recursos gratuitos

Comments

  1. Pingback: Alone Together: tecnología y relaciones humanas

Leave a Comment