Las máquinas de IA no «alucinan». Pero sus creadores
noemí klein
El arquero
Publicado originalmente el 8 de mayo de 23
Entre los muchos debates que giran en torno al rápido despliegue de la llamada inteligencia artificial, hay una escaramuza relativamente oscura centrada en la elección de la palabra alucinación.
Este es un término utilizado por los arquitectos y defensores de la IA generativa para caracterizar las respuestas que dan los chatbots que están completamente fabricados o son completamente erróneos. Como cuando le pides a un bot que defina algo que no existe, y te lo da de manera bastante convincente con notas al pie inventadas. “Nadie en este campo ha resuelto todavía el problema de las alucinaciones”, dijo Sundar Pichai, CEO de Google y Alphabet, en una entrevista reciente.
Eso es cierto, pero ¿por qué llamar a los errores «alucinaciones»? ¿Por qué no basura algorítmica? ¿O fallas? Bueno, la alucinación se refiere a la misteriosa habilidad del cerebro humano para percibir fenómenos que no existen, al menos en términos materialistas convencionales. Al apropiarse de una palabra comúnmente utilizada en psicología, psicodélicos y diversas formas de misticismo, los defensores de la IA, al mismo tiempo que reconocen la falibilidad de sus máquinas, alimentan simultáneamente la mitología más preciada del sector: crear estos grandes modelos de lenguaje y enseñarles todo lo que los humanos podemos escribir. decir y representar visualmente, están en el proceso de dar a luz una mente viva al borde de un salto evolutivo para nuestra especie. ¿De qué otra forma podrían bots como Bing y Bard tropezar por el aire?
(cortar)
Alucinación #3: Se puede confiar en que los gigantes tecnológicos no romperán el mundo
Cuando se le preguntó si estaba molesto por la frenética fiebre del oro que ChatGPT ya había desatado, Altman dijo que sí, pero agregó con optimismo: «Espero que funcione». De sus compañeros ejecutivos de soporte técnico, aquellos que luchan por superar a sus chatbots rivales, dijo: «Creo que los mejores ángeles ganarán».
¿Los mejores ángeles? ¿En Google? Estoy bastante seguro de que la empresa despidió a la mayoría de ellos porque publicaron artículos críticos sobre la IA o alentaron a la empresa a ser racista y acosar sexualmente en el lugar de trabajo. Otros «ángeles mejores» se han ido consternados, el más reciente, Hinton. Eso es porque, contrariamente a las alucinaciones de las personas que más se benefician de la IA, Google toma decisiones basadas no en lo que es mejor para el mundo, sino en lo que es mejor para los accionistas de Alphabet, que no quieren perderse la última burbuja, no cuándo. Microsoft Meta y Apple ya están juntos.
(cortar)
¿Es todo esto demasiado dramático? ¿Resistencia congestionada y reflexiva a las innovaciones emocionantes? ¿Por qué esperar lo peor? Altman nos asegura: «Nadie quiere destruir el mundo». Probablemente no. Pero como el clima cada vez peor y las crisis de extinción nos muestran todos los días, muchas personas e instituciones poderosas parecen ser muy conscientes de que están ayudando a destruir la estabilidad de los sistemas de soporte vital del mundo, siempre que puedan continuar haciéndolo. ganancias récord que creen que los protegerá a ellos y a sus familias de las peores consecuencias. Altman, como muchas criaturas de Silicon Valley, es un preparador: en 2016, se jactó: “Tengo armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras antigás de las Fuerzas de Defensa de Israel y un gran terreno. . Puedo volar a Big Sur.
