OpenAI ha anunciado un nuevo nombramiento en su junta directiva: Zico Kolter.
Kolter, profesor y director del departamento de aprendizaje automático en Carnegie Mellon, se enfoca predominantemente en la seguridad de la inteligencia artificial en su investigación. Esto lo convierte en un 'valioso director técnico para la gobernanza' de OpenAI, escribe OpenAI en una publicación en su blog oficial.
La seguridad de la inteligencia artificial ha sido un gran problema en la empresa. El nombramiento de Kolter llega unos meses después de que varios ejecutivos y empleados prominentes de OpenAI enfocados en la seguridad, incluido el cofundador Ilya Sutskever, abandonaran la empresa. Varias de estas renuncias provinieron del antiguo equipo 'Superalignment' de Sutskever, que estaba enfocado en formas de gobernar sistemas de inteligencia artificial 'superinteligentes', pero a los que una fuente dice que se les negó acceso a los recursos informáticos originalmente prometidos.
Kolter también se unirá al Comité de Seguridad y Protección de la junta directiva de OpenAI junto a los directores Bret Taylor, Adam D'Angelo, Paul Nakasone, Nicole Seligman, el CEO Sam Altman y expertos técnicos de OpenAI. El comité es responsable de hacer recomendaciones sobre decisiones de seguridad para todos los proyectos de OpenAI, pero, como señalamos en un artículo en mayo, está compuesto en su mayoría por personas internas, lo que ha suscitado preguntas entre los críticos sobre su efectividad.
El presidente de la junta directiva de OpenAI, Taylor, dijo en un comunicado: 'Zico aporta una profunda comprensión técnica y perspectivas en seguridad y robustez de la inteligencia artificial que nos ayudarán a garantizar que la inteligencia artificial general beneficie a toda la humanidad'.
Kolter, anteriormente científico de datos principal en C3.ai, completó su doctorado en ciencias de la computación en la Universidad de Stanford en 2010, seguido de una beca posdoctoral en el MIT de 2010 a 2012. Su investigación incluye demostrar el potencial de eludir las salvaguardias existentes de inteligencia artificial a través de técnicas de optimización automatizadas.
No ajeno a las colaboraciones industriales, Kolter es actualmente 'experto principal' en Bosch y asesor técnico principal en la startup de inteligencia artificial Gray Swan.
