Las herramientas de IA generativa ya están aquí, y también lo está el infinito potencial para su uso indebido. Podrían fabricar información errónea durante las elecciones. A menudo inventan información tendenciosa e incorrecta. Además, facilitan enormemente hacer trampas en las redacciones escolares.
El multimillonario Bill Gates, que declaró a Forbes a principios de este año que cree que el cambio a la IA es "tan importante como el PC", está preocupado por todos estos retos. Pero, tal y como explica en una reciente entrada de su blog, cree que la IA puede utilizarse para resolver los problemas que creó.
Uno de los problemas más conocidos de los grandes modelos lingüísticos es su tendencia a "alucinar" o producir información objetivamente incorrecta y sesgada o perjudicial. Esto se debe a que los modelos se entrenan con una gran cantidad de datos recogidos en Internet, que están plagados de prejuicios y desinformación. Pero Gates cree que es posible construir herramientas de IA que sean conscientes de los datos erróneos con los que se entrenan y de las suposiciones sesgadas que hacen.
"Los modelos de inteligencia artificial heredan los prejuicios del texto en el que se basan", escribió. "Soy optimista y creo que, con el tiempo, se podrá enseñar a los modelos de IA a distinguir la realidad de la ficción. Uno de los enfoques consiste en incorporar valores humanos y razonamientos de alto nivel a la IA".
La opinión de Gates acerca de OpenAI
En ese sentido, destacó los intentos de OpenAI, creador de ChatGPT, por hacer sus modelos más precisos, representativos y seguros mediante la retroalimentación humana. Pero el chatbot viral está plagado de sesgos e imprecisiones incluso después de entrenarlo con una versión avanzada de su gran modelo lingüístico, GPT-4.
Los investigadores de IA descubrieron que ChatGPT refuerza los estereotipos de género sobre los trabajos de mujeres y hombres. (Otros chatbots más recientes, como el bot rival de ChatGPT de Anthropic, Claude 2.0, también intentan mejorar la precisión y mitigar los contenidos nocivos, pero aún no fueron tan probados por los usuarios).
Gates tiene una razón para hablar bien de ChatGPT: su empresa, Microsoft, invirtió miles de millones de dólares en OpenAI. A finales de abril, su patrimonio aumentó en 2.000 millones de dólares después de que en la llamada de resultados de Microsoft se mencionara la IA más de 50 veces. En la actualidad está valorado en unos 118.000 millones de dólares.
Un ejemplo que Gates comenta en su blog es cómo los hackers y ciberdelincuentes utilizan herramientas de IA generativa para escribir código o crear voces generadas por IA para realizar estafas telefónicas. Estos efectos descontrolados de las herramientas llevaron a algunos líderes y expertos en IA, como Steve Wozniak, cofundador de Apple, Elon Musk, CEO de Tesla, SpaceX y Twitter, y Tristan Harris, cofundador del Center for Human Technology, a pedir una pausa en el despliegue de potentes herramientas de IA en una carta abierta publicada a finales de marzo.
Gates se opuso a la carta y subrayó que no cree que una pausa en los avances vaya a resolver ningún problema. "No deberíamos intentar impedir temporalmente que la gente implemente nuevos avances en IA, como algunos propusieron", escribió.
Por el contrario, dijo que estas consecuencias ofrecen más razones para seguir desarrollando herramientas avanzadas de IA, así como regulaciones para que los gobiernos y las empresas puedan detectar, restringir y contrarrestar los usos indebidos que utilizan la IA. "Los ciberdelincuentes no dejarán de crear nuevas herramientas... El esfuerzo para detenerlos debe continuar al mismo ritmo", escribió.
¿Cuál es la finalidad de las IA según Bill Gates?
Pero la afirmación de Gates de que las herramientas de IA pueden utilizarse para combatir las deficiencias de otras herramientas de IA, puede no sostenerse en la práctica, al menos de momento. Por ejemplo, aunque se lanzó una serie de detectores de IA y de deepfake, no todos son capaces de detectar correctamente los contenidos sintéticos o manipulados.
Algunos presentan incorrectamente imágenes reales como generadas por IA, según un informe del New York Times. Sin embargo, la IA generativa, todavía una tecnología incipiente, debe ser supervisada y regulada por organismos gubernamentales y empresas para controlar sus efectos no deseados en la sociedad, dijo Gates.
"Ahora estamos en... la era de la IA. Es análoga a los tiempos inciertos anteriores a los límites de velocidad y los cinturones de seguridad", escribió Gates.
*Con información de Forbes US
