Esto no se limita a cuestiones relacionadas con los futuros vehículos autónomos. También puede ser un problema para los modelos de lenguaje a gran escala (LLM) o los modelos de generación de imágenes. Hay aspectos que se interpretan de forma diferente según la cultura. Por ejemplo, en Occidente existe un fuerte consenso en que queremos eliminar los estereotipos de género en la IA. Sin embargo, hay otras culturas en las que la división tradicional del trabajo por géneros se considera aceptable o constituye una parte fundamental de su organización social.
Así que ahora nos encontramos en el ámbito de la política —y de las guerras culturales—. Podrías decir: “Quiero eliminar cualquier sesgo y todos los estereotipos de estos modelos, en todo el mundo”, y quizá eso sea lo correcto, ¿no? Pero es importante darse cuenta de que esa es una decisión que debe tomar alguien. La cuestión técnica es la más sencilla.
Así es. La ciencia puede poner de relieve algunas de estas tensiones, pero, por supuesto, no puede resolverlas. Por ejemplo, si preguntas a la gente, como ciudadanos, qué creen que debería hacer un vehículo, dirán que debería minimizar el número de víctimas, aunque eso perjudique a la persona que va dentro del vehículo. Sin embargo, si les preguntas en qué automóvil preferirían viajar o cuál comprarían, normalmente preferirán el vehículo que está programado para protegerlos.
Si la programación se deja en manos de las empresas, estas se adaptarán a las necesidades del consumidor y fabricarán vehículos que resten prioridad a la seguridad de los demás. Existe una dinámica similar con los modelos de lenguaje a gran escala: las empresas se ven impulsadas a satisfacer las demandas de los consumidores. La pregunta es: ¿qué consecuencias negativas podría tener esto para las personas que no compran el producto, pero que aún así podrían verse afectadas por sus decisiones? Si un vehículo protege solo a su conductor, o si un algoritmo de optimización solo tiene en cuenta los beneficios para su propietario, otras personas podrían resultar perjudicadas.
No soy experto en derecho, pero me parece que, si es el vehículo el que toma todas las decisiones, sería extraño que el propietario fuera responsable, a menos que pudiera ajustar la configuración del vehículo. En ese sentido, los fabricantes de vehículos podrían tener un incentivo para ofrecerte la posibilidad de elegir, como un pequeño dial que permita a los propietarios controlar la distribución del riesgo. O también se podría imaginar que la gente utilizara actualizaciones de terceros para ajustar la ética de un vehículo.
Creo que, entre los fabricantes de automóviles, el debate general ahora gira en torno a intentar minimizar el daño de forma generalizada. Creo que aún no estamos en una fase en la que podamos distinguir si ciertos grupos se ven perjudicados con más frecuencia.
El historial de seguridad es bastante bueno, sin duda mejor que el de la conducción humana. Solo en EE.UU. se producen ahora entre 30.000 y 40.000 muertes en carretera al año, sin contar los heridos. Si el número de muertes en carretera causadas por los vehículos autónomos resulta ser mucho menor —lo que parece ser el caso actualmente, aunque, por supuesto, es demasiado pronto para estar seguros—, tal vez se pueda evitar el debate sobre las colisiones inevitables. Entonces, debemos comprender qué tipo de prioridades deben guiar el comportamiento de los vehículos en esos “casos límite”. Una vez que la sociedad haya acordado estas prioridades, los gobiernos necesitarán nuevos sistemas para supervisar el comportamiento de estos vehículos y hacer cumplir las normas.
En el artículo usted destaca que, aunque seamos nosotros mismos quienes paguemos por el sistema de IA o por el producto que lo incorpora, no debemos dar por sentado que la IA siempre tiene en cuenta nuestros mejores intereses.
Efectivamente. Algo con lo que experimentamos desde el principio y que ahora se está convirtiendo en realidad son lo que denominamos “IA con intereses propios”, entrenadas para servir a intereses distintos a los del usuario. Las empresas de IA pueden tener intereses que entren en conflicto con los nuestros, y esto no es nada nuevo. Siempre ha habido empresas que prefieren utilizar materiales más baratos, con las consiguientes consecuencias para la seguridad de los consumidores, por ejemplo. Por eso contamos con la regulación gubernamental. En el caso de la IA, todavía estamos tratando de averiguar cuáles son las analogías adecuadas. ¿En qué ámbitos requieren un mayor escrutinio las aplicaciones de IA —el médico, el jurídico, el financiero—? ¿Y en qué ámbitos pueden los consumidores juzgar por sí mismos?
Una de las cosas que ocurre cuando dejamos las decisiones morales en manos de la inteligencia artificial es que es posible que ya no nos sintamos tan responsables del resultado. ¿Cómo podría afectar esto a nuestro comportamiento?
Recientemente hemos realizado un estudio al respecto en el que las personas realizaban tareas por sí mismas o utilizaban la IA para llevarlas a cabo. La mayoría de las personas se sienten inhibidas a la hora de hacer trampa en exceso, pero la IA parece reducir esta inhibición. Al lanzar un dado y se les pide que informen ellos mismos de la puntuación, solo el 5 % de las personas hace trampa, aunque podrían salirse con la suya fácilmente. Sin embargo, si le dan instrucciones a un modelo de lenguaje a gran escala (LLM), la cifra asciende a alrededor del 25 % de personas dispuestas a hacer trampa.
Y si a las personas se les proporciona un dial giratorio que les permite equilibrar la honestidad frente a los ingresos, el 85 % hace trampa. Todas estas personas honestas se convierten en tramposas, probablemente porque pueden decir: “Solo le pedí que maximizara los ingresos, no le pedí que hiciera trampa”. Pueden surgir problemas similares en muchos aspectos de la vida, y esto será aún más problemático en el caso de los agentes de IA que buscan su propio camino para alcanzar tu objetivo, en lugar de seguir órdenes explícitas para actuar de forma poco ética.
¿Cómo cree que todo este tiempo que pasamos con los chatbots podría afectar la forma en que nos tratamos unos a otros?
Hemos realizado algunos estudios preliminares que muestran que las personas prefieren colaborar con otras personas antes que con sistemas de IA, incluso si estos son más amables. Sin embargo, un estudio más reciente ha revelado que también pueden empezar a preferir a las máquinas antes que a los humanos. Hicimos que los participantes jugaran a un “juego de confianza” financiero en el que tenían que elegir entre cooperar con un humano o con un bot. Al principio, la gente tenía prejuicios contra las máquinas. Pero una vez que aprendieron, tras varias rondas, que los bots eran en realidad más cooperativos y dignos de confianza que los humanos, empezaron a preferir a las máquinas.
Así pues, una vez que se solucione el problema del mal comportamiento de las IA, estas podrían empezar a superar a los humanos, incluso en el contexto de la interacción social. Hay gente que ya tiene amigos de IA, y quizá algunos de nosotros nos sintamos tentados a comportarnos más como una IA con los demás. Si las IA son siempre afirmativas y aduladoras, los amigos humanos podrían verse obligados a comportarse más como esa IA solo para poder competir. Si la única forma de conservar a un amigo humano fuera actuar como un bot adulador, ese sería un resultado terrible.
En realidad, no hemos analizado si la gente adopta la actitud de los chatbots, pero un estudio reciente nuestro sí demostró que ya estamos adoptando palabras que a los chatbots les gusta usar, siendo “delve” (que en español significa rebuscar en, hurgar en, ahondar en) el ejemplo más notorio.
De hecho, la gente está realizando mucho “delving” últimamente. Si, por ejemplo, la Unión Europea lo pusiera al frente de la regulación de la IA, ¿cuál sería su primera decisión? ¿Qué cree que se puede y se debe hacer ahora?
Si yo estuviera al mando, sería una auténtica tontería por mi parte dar por sentado que conozco todas las respuestas. Pero eso no significa que no hiciera nada. Lo que haría sería cambiar las normas para que las empresas tuvieran la obligación de poner a disposición de los científicos no solo sus datos, sino también el diseño de sus productos. Modificaría la normativa para que los experimentos con productos de IA pudieran ser realizados por científicos independientes, no por la buena voluntad de las empresas, sino por imperativo legal.
Los investigadores deberían poder analizar los algoritmos actuales y tal vez incluso modificarlos para llevar a cabo la mejor investigación posible sobre el impacto de estas tecnologías. De ese modo, podríamos responder a las grandes preguntas que se plantea la gente, como si la IA está aumentando la desinformación y la polarización, cuáles podrían ser los efectos sobre la salud mental de interactuar con la IA, etcétera. Podríamos certificar realmente que lo que, en esencia, son herramientas de uso generalizado no están generando problemas sociales a gran escala. Hay mucho en juego. No queremos frenar la innovación, pero deberíamos permitir que los científicos la estudien.
Artículo traducido por Debbie Ponchner
