GENEVA (AP) — El CEO de OpenAI, Sam Altman, fue un ponente destacado en la conferencia anual AI for Good el jueves, dirigiéndose a la reunión anual de la agencia de telecomunicaciones de la ONU sobre cómo aprovechar la promesa social de la tecnología de inteligencia artificial.
Pero Altman pasó parte de su aparición virtual defendiéndose de preguntas espinosas sobre gobernanza, una controversia de voz de IA y críticas de miembros expulsados de la junta.
La aparición de Altman para hablar sobre los beneficios de la IA llega en un momento en que su empresa ha estado lidiando con una creciente preocupación sobre sus prácticas comerciales y cómo maneja la seguridad de la IA.
Él fue uno de los líderes tecnológicos que se unieron a la reunión de Ginebra mientras el evento de dos días alberga discursos y charlas sobre aplicaciones de inteligencia artificial para robótica, medicina, educación, desarrollo sostenible y más.
La última ronda de descontento en OpenAI coincidió con la presentación de un nuevo producto de la compañía a principios de mayo que atrajo la ira de la estrella de Hollywood Scarlett Johansson, quien dijo estar sorprendida al escuchar la voz de ChatGPT sonando "inquietantemente similar" a la suya a pesar de haber rechazado previamente la solicitud de Altman para que prestara su voz al sistema.
Altman habló extensamente sobre temas relacionados con la IA en una entrevista con Nicholas Thompson, CEO de The Atlantic. Pero evitó responder preguntas sobre algunos temas sensibles, como explicar el uso de la voz de un actor que se parecía a la de Johansson en el creador de ChatGPT.
"No es su voz. No se supone que lo sea. Lamento la confusión. Claramente piensas que lo es," dijo Altman, señalando que la gente va a tener diferentes opiniones sobre cuánto se parecen las voces.
"No estoy seguro de qué más decir," agregó Altman. Thompson, cuya revista cerró un acuerdo de productos y contenido con OpenAI un día antes, no siguió con el tema.
Más tarde, Thompson le preguntó a Altman sobre la gobernanza en OpenAI, incluyendo una idea para un consejo de gobierno.
"Continuamos discutiendo cómo implementar la gobernanza. Probablemente no debería decir mucho más en este momento," dijo Altman.
"Diga un poco más," respondió Thompson, sacando risas de la audiencia.
"Pasaremos. Lo siento," respondió Altman.
La supervisión de grandes empresas de IA como OpenAI ha sido un tema cada vez más candente. Poco después de la controversia de Johansson, el investigador que se marchó Jan Leike dijo que la empresa estaba dejando la seguridad "en segundo plano ante productos llamativos" y citó desacuerdos con los principales líderes que alcanzaron un "punto crítico."
La salida de Leike ocurrió días después de que el cofundador Ilya Sutskever renunciara. Ambos lideraron conjuntamente el equipo "Superalignment" de OpenAI, centrado en la misión fundacional de la organización de desarrollar de manera segura una IA mejor que la humana conocida como inteligencia artificial general, o AGI. Ese equipo ahora está disuelto y reemplazado por un comité de seguridad diferente.
Thompson preguntó sobre comentarios de Helen Toner, una investigadora de la Universidad de Georgetown, que fue expulsada del consejo de OpenAI el año pasado después de una lucha de poder caótica con Altman. Toner, parte de un grupo que tenía reservas sobre los riesgos de seguridad de la IA, criticó a Altman en un podcast por ocultar información, tergiversar lo que estaba sucediendo en OpenAI o "mentir descaradamente."
En un ejemplo, dijo que cuando ChatGPT se lanzó en noviembre de 2022, "el consejo no fue informado de antemano sobre eso. Nos enteramos de ChatGPT en Twitter."
"Discrepo con su recuerdo de los eventos," dijo Altman. Toner "realmente se preocupa por un buen resultado de AGI, y aprecio eso sobre ella, y le deseo lo mejor. Probablemente no quiera entrar en una refutación línea por línea aquí."
OpenAI ha estado montando una nueva ola de tecnología de IA generativa que irrumpió en la vista pública hace 18 meses cuando lanzó ChatGPT, un destacado temprano entre los sistemas de IA que generan texto, imágenes y video novedosos basados en una vasta base de datos de escritos en línea, libros y otros medios. Desde entonces, otros titanes corporativos y startups de IA han lanzado sus versiones de la tecnología.
Aunque los esfuerzos de la ONU "AI for Good" preceden a la última locura de IA generativa, el rápido avance y comercialización de la tecnología han atraído la atención del mundo.
"La inteligencia artificial está cambiando nuestro mundo y nuestras vidas," dijo el Secretario General de la ONU, António Guterres, en un video, señalando su promesa para cosas como la educación y la atención médica en áreas remotas, el aumento de los rendimientos de los cultivos y sistemas de alerta temprana para desastres naturales.
Los líderes políticos de todo el mundo están particularmente preocupados por las herramientas de IA que podrían potenciar la propagación de la desinformación en línea: con unos pocos comandos y peticiones escritas, textos e imágenes generados por computadora pueden difundirse en las redes sociales y en internet, difuminando la línea entre las noticias falsas y la realidad.
"Transformar su potencial en realidad requiere una IA que reduzca el sesgo, la desinformación y las amenazas de seguridad, en lugar de agravarlas," dijo Guterres, insistiendo en que también debe implicar ayudar a los países en desarrollo a "aprovechar la IA por sí mismos" y "conectar a los no conectados" en todo el mundo.
——
Chan reportó desde Londres. El escritor de tecnología de AP Matt O'Brien en Providence, Rhode Island, contribuyó a este informe.
—--
The Associated Press y OpenAI tienen un acuerdo de licencia y tecnología que permite a OpenAI acceder a parte de los archivos de texto de AP.
—-
Esta historia ha sido corregida para mostrar que el título de Thompson es CEO, no editor, de The Atlantic.
