La Comisión Federal de Comercio de EE.UU. examinará el aumento de la tecnología de IA en todos los ámbitos, dijo la presidenta de la FTC, Lina Khan, durante el evento StrictlyVC de TechCrunch en Washington, D.C., el martes. Sin embargo, el objetivo de la agencia no es aplastar a las startups que buscan competir en este espacio con una mayor regulación, dijo Khan.
"Queremos asegurarnos de que las arterias del comercio estén abiertas, de que los caminos del comercio estén abiertos, y si tienes una buena idea, si puedes comercializarla, si hay interés en el mercado, tienes una oportunidad justa de competir", dijo Khan al público. "Tu destino está ligado a la fortaleza de tu idea y tu talento comercial, en lugar de si estás amenazando a uno de los grandes que podría aplastarte".
Aun así, la FTC no está ignorando la tecnología ni sus posibles daños. De hecho, ya está viendo un aumento en los casos de quejas de consumidores en algunas áreas, como el fraude de clonación de voz, dijo Khan.
Ese tipo de tecnología recientemente ocupó titulares cuando OpenAI lanzó y luego retiró una voz de ChatGPT que sonaba como la actriz Scarlett Johansson, que famosamente prestó su voz a la IA en la película 'Her'. La actriz afirma que rechazó la oferta de OpenAI de grabar su voz para el chatbot, por lo que la clonaron en su lugar. (OpenAI afirma que simplemente usó a otra actriz de voz).
Preguntada sobre qué áreas de la IA estaba vigilando la FTC, Khan explicó que era todo.
"Estamos realmente mirando a través de toda la pila, desde los chips hasta la nube, los modelos, las aplicaciones en aguas abajo, para tratar de entender qué está pasando en cada una de estas capas", dijo. Además, la agencia busca escuchar a "personas en el terreno" sobre lo que ven como tanto las oportunidades como los riesgos.
La presidenta de la FTC, @linakhanFTC, enfatizó la importancia de la intervención regulatoria para abrir los mercados a la innovación de startups durante el evento de hoy en @StrictlyVC pic.twitter.com/VHQAbMylI9
— TechCrunch (@TechCrunch) 11 de junio de 2024
Por supuesto, regular la IA conlleva sus desafíos, a pesar del número de tecnólogos que la FTC ha contratado para ayudar en esta área. Khan señaló que la organización recibió más de 600 solicitudes de tecnólogos que buscan trabajo en la FTC, pero no dijo cuántos de ellos fueron contratados. En total, sin embargo, la agencia tiene alrededor de 1.300 personas, dijo, lo que son 400 personas menos que en la década de 1980, a pesar de que la economía ha crecido 15 veces más.
Con decenas de casos de antimonopolio y cerca de cien en el lado de la protección al consumidor, la agencia ahora está recurriendo a tácticas innovadoras para ayudarla a luchar contra el fraude, especialmente en el espacio de la IA.
Por ejemplo, Khan mencionó el reciente desafío de clonación de voz de la agencia, en el que invitó al mercado y al público a presentar ideas sobre cómo una agencia como la FTC podría detectar y monitorear de manera más en tiempo real si una llamada telefónica o una voz es real, o si está utilizando la clonación de voz con fines fraudulentos. Además de obtener ideas ganadoras de desafíos como este, la FTC también espera impulsar que el mercado se enfoque en desarrollar más mecanismos para combatir el fraude de la IA.
Otra área de enfoque para la FTC es lo que realmente significa la apertura en el contexto de la IA, explicó Khan. "¿Cómo nos aseguramos de que no sea solo un ejercicio de branding, sino que cuando miras los términos sea verdaderamente abierto?", preguntó, añadiendo que la agencia quería adelantarse a algunas de esas dinámicas de "abierto primero, cerrado después" que se vieron anteriormente en la era de la Web 2.0.
"Creo que hay muchas lecciones por aprender, en general, pero creo que especialmente en este momento, al estar pensando en algunas de estas herramientas de IA, es un momento muy propicio para aplicarlas", dijo Khan.
Además, la agencia está preparada para observar la industria en busca de la exageración en la IA, donde se está sobrevalorando el valor del producto. "Algunas de estas herramientas de IA pensamos que se están utilizando para comercializar, y para inflar y exagerar el valor de lo que se ofrece. Y queremos asegurarnos de que estamos vigilando eso", señaló Khan. "Ya hemos tenido un par de casos de publicidad engañosa/exagerada de IA, y es un área en la que seguimos escrutando".
