Carissa Véliz sobre privacidad, datos y ética digital

Recuperar la privacidad

La profesora Carissa Véliz analiza los riesgos que plantea la digitalización para las libertades individuales.

A continuación se presenta el resumen de una ponencia impartida por la profesora Véliz en una conferencia para clientes de Pictet Wealth Management.

Privacidad, datos y sesgos algorítmicos

La privacidad es poder. Recuperar la privacidad en un mundo de datos es posible, pero es una cuestión de diseño. La mayoría de las tecnologías digitales con las que contamos hoy en día carecen, básicamente, de ética. El modelo de negocio fundamental de Internet gira en torno a la recopilación y venta de datos. Aunque no queramos enviar nuestros datos, a menudo son recabados sin nuestro consentimiento. Esto menoscaba el concepto mismo de consentimiento. En lugar de vernos obligados a indicar nuestra negativa, deberíamos tener que optar voluntariamente por permitir la recogida de nuestros datos.

Cuando lo analógico pasa a ser digital, se convierte en vigilancia.
— Carissa Véliz

El peligro del sesgo está estrechamente relacionado con la privacidad. Sin datos, es más difícil mostrar sesgos. Los datos históricos que con frecuencia se utilizan para entrenar algoritmos son intrínsecamente erróneos: están plagados de sexismo, racismo y otros prejuicios. Por ejemplo: hasta no hace mucho, las mujeres no podían abrir cuentas bancarias, y esta desigualdad histórica se refleja en los datos. Si resolvemos el problema de la privacidad, podremos solucionar una parte considerable del problema del sesgo.

Diseñados para rastrearnos

La decisión de registrar o no registrar datos puede ser una cuestión de vida o muerte. Durante la Segunda Guerra Mundial, los nazis invasores acudieron directamente a los registros locales para identificar a la población judía. En los Países Bajos, las tarjetas de identidad obligatorias equivalían, en la práctica, a una sentencia de muerte que cada persona judía llevaba en el bolsillo. En Francia, sin embargo, se salvaron vidas porque los nazis buscaban datos que, sencillamente, no se habían recopilado. Esta lección histórica pone de relieve el poder de la privacidad y la importancia decisiva de limitar la recogida de datos. Hoy en día, estamos cometiendo los mismos errores a una escala sin precedentes, lo cual es una temeridad.

Dondequiera que miremos, lo analógico se está convirtiendo en digital. Cuando lo analógico pasa a ser digital, se convierte en vigilancia. Lo que no se podía rastrear pasa a ser rastreable; lo que no se podía localizar, pasa a ser localizable. Esta transformación no es neutral. Ninguna herramienta es neutral. Todo está diseñado con una finalidad concreta. El mundo digital está diseñado para recopilar, rastrear y monetizar datos. 

Fig. Su yo digitalizado

Por eso es fundamental estar alerta. Actuar con cierta prudencia no es tan difícil. Podemos usar dinero en efectivo en lugar de tarjetas, regalar libros a los niños en lugar de tabletas electrónicas y utilizar cuadernos en lugar de la nube. Podemos desactivar el wifi y el Bluetooth cuando salimos de casa, así como evitar conectarnos a redes wifi públicas sin una VPN. Podemos guardar nuestros teléfonos durante las reuniones familiares, desactivar las cámaras y los micrófonos durante los debates en el aula y optar por no dejar que los móviles se inmiscuyan en nuestras relaciones más íntimas.

Esto no tiene nada que ver con la nostalgia. Tiene que ver con la vida. La vida es analógica. Es a través de los libros como conversamos con quienes nos precedieron. La escritura no es solo un producto, es una forma de pensar. Si confiamos en herramientas como ChatGPT, corremos el riesgo de perder la capacidad de pensar con espíritu crítico. Corremos el riesgo de criar una generación de súbditos en lugar de ciudadanos. Esto resulta especialmente preocupante para las democracias liberales, cuyos avances dependen del razonamiento crítico y la participación de la ciudadanía.

De regular las tecnologías a regular sus funciones

La ética y la IA están evolucionando demasiado rápido como para que los organismos reguladores puedan controlarlas debidamente. Esto no es exclusivo de la tecnología: los organismos reguladores suelen ir a la zaga de la innovación en muchos sectores. Sin embargo, ello no significa que debamos rendirnos. Más bien, debemos centrarnos en reglamentar las funciones en vez de tecnologías específicas, ya que las tecnologías cambian, pero sus funciones suelen permanecer iguales.

Las democracias liberales deben unir sus fuerzas para establecer nuevos acuerdos globales, similares a un Bretton Woods moderno o a una Declaración Universal de los Derechos Humanos. También necesitamos que las empresas den un paso al frente y mejoren sus normas. La competencia puede impulsar la innovación en este ámbito. Servicios de correo electrónico cifrado, VPN, protección de contraseñas… este es el tipo de tecnologías que necesitamos: tecnologías que estén a nuestro servicio, no al de otros. Cuando una empresa sube el listón, a menudo las demás se ven obligadas a seguirla.

The Dutch Visionary Futures for Humankind, 2025
ETpathfinder en Maastricht: la instalación de la primera torre marca un hito en el montaje de los sistemas internos de este centro. La torre alberga sistemas ópticos y de suspensión ultraestables que se utilizan para probar tecnologías destinadas a los futuros detectores de ondas gravitacionales. Fotografía de Luca Locatteli

Efficienza, comodità e il prezzo della libertà

La eficiencia es importante, pero no es el objetivo final. Las dictaduras son eficientes, pero medran a expensas de la libertad y la democracia. Debemos preguntarnos si estamos dispuestos a pagar ese precio a cambio de la comodidad. Lo que está en juego es de la máxima importancia. Los datos personales se están utilizando para la propaganda política personalizada, lo que amenaza la integridad de las elecciones y, por extensión, la propia democracia.

Lo valioso de la vida se encuentra en lo analógico. Hay algo mágico en mirarnos a los ojos y mantener conversaciones reales, cara a cara. Esa es la esencia de la vida. Todo lo virtual depende de lo analógico. No lo olvidemos. El poder de la privacidad trasciende al individuo. Es una responsabilidad colectiva.

El mundo digital está diseñado para recopilar, rastrear y monetizar datos.
— Carissa Véliz

Como ciudadanos, clientes e inversores, tenemos el poder de exigir una tecnología mejor. Podemos elegir alternativas a las opciones mayoritarias. Podemos abogar por una tecnología que priorice la ética y esté al servicio de las personas que la utilizan, en lugar de explotarlas. La demanda determina el diseño. Al igual que iconos del diseño tales como las sillas Eames no surgieron por casualidad, la tecnología ética no se hará realidad sin un esfuerzo deliberado.

Hay mucho en juego, pero las soluciones están a nuestro alcance. Introduciendo pequeños cambios en nuestra vida cotidiana, exigiendo más a las empresas y presionando a favor de una normativa más estricta, podemos recuperar nuestra privacidad y proteger nuestra democracia. El futuro no es inmutable. Depende de nosotros darle forma.

Autora: Carissa Véliz

Fotografía de Fran Monks

Carissa Véliz es profesora asociada de Filosofía en el Institute for Ethics in AI y Fellow del Hertford College de la Universidad de Oxford. En 2021 recibió el premio Herbert A. Simon por investigación destacada en informática y filosofía. Es autora de la aclamada obra Privacy Is Power (Privacidad es poder, uno de los libros del año 2020 de The Economist) y editora del Oxford Handbook of Digital Ethics. Es miembro de la plataforma Women4Ethical AI de la UNESCO. Asesora a dirigentes de todo el mundo sobre la privacidad y la ética de la IA.

Artículos relacionados

Macroeconomía · 16 jul 2026

¿Dominará China la IA como domina los vehículos eléctricos?

El liderazgo largamente ostentado por EE.UU. en innovación tecnológica está amenazado. China no solo está ya a la cabeza de todo lo que tiene que ver con electrificación y energía limpia, también está dando grandes pasos para igualarse a EE.UU. en uno de los campos de la tecnología más candentes en la actualidad: la inteligencia artificial (IA). El que venza en la carrera por la supremacía tecnológica será determinante para el mundo que habitaremos en décadas venideras.

Ciencia y tecnología · 27 jul 2026

Análisis de la huella medioambiental

Viktoras Kulionis contextualiza el consumo de energía de la IA.

Ciencia y tecnología · 22 jun 2026

El legendario ingeniero Steve Wozniak analiza el panorama de las TI

Hace 50 años, Steve Wozniak creó el primer ordenador de Apple, un hecho que cambió el panorama de la tecnología moderna. Y su curiosidad y sus conocimientos siguen siendo tan interesantes ahora como en 1976. El entusiasmo de Wozniak por la innovación es evidente, y tiene ideas a raudales, sobre todo en lo que respecta a la inteligencia artificial.

Macroeconomía · 27 feb 2026

La inteligencia artificial impulsa una revolución sanitaria

El aprendizaje automático nos dirige hacia nuevas terapias, afirma Michael Nally, de Generate:Biomedicina.

Ciencia y tecnología · 05 feb 2026

Where AI will really be felt

Pictet Asset Management thematic advisory board member Carl Frey looks to the past to understand how AI is likely to transform the global economy

footnote.label.a11y
Confirm your selection
By clicking on “Continue”, you acknowledge that you will be redirected to the local website you selected for services available in your region. Please consult the legal notice for detailed local legal requirements applicable to your country. Or you may pursue your current visit by clicking on the “Cancel” button.

Bienvenido/a a Pictet

Parece que está usted aquí: {{CountryName}}. ¿Desea cambiar su ubicación?