By El jefe de la compañía de inteligencia artificial que fabrica ChatGPT le dijo al Congreso el martes que la intervención del gobierno será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos.
“A medida que avanza esta tecnología, entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también”, dijo el CEO de OpenAI, Sam Altman, en una audiencia en el Senado.
Altman propuso la formación de una agencia estadounidense o global que otorgaría licencias a los sistemas de inteligencia artificial más poderosos y tendría la autoridad para “retirar esa licencia y garantizar el cumplimiento de los estándares de seguridad”.
Su puesta en marcha con sede en San Francisco se disparó a la atención del público después de que lanzó ChatGPT a fines del año pasado. ChatGPT es una herramienta de chatbot gratuita que responde preguntas con respuestas convincentemente similares a las de los humanos.
Lo que comenzó como un pánico entre los educadores sobre el uso de ChatGPT para hacer trampa en las tareas asignadas se ha expandido a preocupaciones más amplias sobre la capacidad de la última generación de herramientas de «IA generativa» para engañar a las personas, difundir falsedades, violar las protecciones de derechos de autor y cambiar algunos trabajos.
Y aunque no hay señales inmediatas de que el Congreso elabore nuevas reglas radicales de IA, como lo están haciendo los legisladores europeos , las preocupaciones sociales llevaron a Altman y a otros directores ejecutivos de tecnología a la Casa Blanca a principios de este mes y han llevado a las agencias estadounidenses a prometer tomar medidas enérgicas contra los productos dañinos de IA . que violan los derechos civiles existentes y las leyes de protección al consumidor.
El senador Richard Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y leyes del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como el del senador, pero en realidad era un clon de voz entrenado en los discursos de Blumenthal y recitaba una discurso escrito por ChatGPT después de que le pidió al chatbot que redactara sus comentarios de apertura.
El resultado fue impresionante, dijo Blumenthal, pero agregó: «¿Qué pasaría si le hubiera pedido, y si hubiera proporcionado, un respaldo a la rendición de Ucrania o al liderazgo (del presidente ruso) Vladimir Putin?»
Blumenthal dijo que se debería exigir a las empresas de IA que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos, y expresó una preocupación particular sobre cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral.
Presionado por su peor temor sobre la IA, Altman evitó en su mayoría los detalles, excepto para decir que la industria podría causar «un daño significativo al mundo» y que «si esta tecnología sale mal, puede salir bastante mal».
Pero luego propuso que una nueva agencia reguladora debería imponer salvaguardas que bloquearían los modelos de IA que podrían «autoreplicarse y autoexfiltrarse en la naturaleza», lo que sugiere preocupaciones futuristas sobre sistemas avanzados de IA que podrían manipular a los humanos para que cedan el control.
Cofundado por Altman en 2015 con el respaldo del multimillonario tecnológico Elon Musk, OpenAI ha pasado de ser un laboratorio de investigación sin fines de lucro con una misión centrada en la seguridad a un negocio. Sus otros productos populares de IA, incluido el creador de imágenes DALL-E. Microsoft ha invertido miles de millones de dólares en la puesta en marcha y ha integrado su tecnología en sus propios productos, incluido su motor de búsqueda Bing .
Altman también planea embarcarse en una gira mundial este mes a las capitales nacionales y las principales ciudades de los seis continentes para hablar sobre la tecnología con los legisladores y el público. En la víspera de su testimonio en el Senado, cenó con docenas de legisladores estadounidenses, varios de los cuales dijeron a CNBC que estaban impresionados por sus comentarios.
También testificaron la directora de confianza y privacidad de IBM, Christina Montgomery, y Gary Marcus, un profesor emérito de la Universidad de Nueva York que se encontraba entre un grupo de expertos en IA que pidieron a OpenAI y otras empresas tecnológicas que detuvieran el desarrollo de modelos de IA más potentes para seis meses para dar a la sociedad más tiempo para considerar los riesgos . La carta fue una respuesta al lanzamiento en marzo del último modelo de OpenAI, GPT-4 , descrito como más poderoso que ChatGPT.
El republicano de mayor rango del panel, el senador Josh Hawley de Missouri, dijo que la tecnología tiene grandes implicaciones para las elecciones, el empleo y la seguridad nacional. Dijo que la audiencia del martes marcó “un primer paso fundamental para comprender lo que debe hacer el Congreso”.
Varios líderes de la industria tecnológica han dicho que dan la bienvenida a algún tipo de supervisión de la IA, pero han advertido contra lo que ven como reglas demasiado estrictas. Altman y Marcus pidieron un regulador centrado en la IA, preferiblemente uno internacional, con Altman citando el precedente de la agencia nuclear de la ONU y Marcus comparándolo con la Administración de Drogas y Alimentos de los EE. UU. Pero Montgomery de IBM, en cambio, pidió al Congreso que adoptara un enfoque de «regulación de precisión».
“Creemos que la IA debería regularse en el punto de riesgo, esencialmente”, dijo Montgomery, al establecer reglas que rijan el despliegue de usos específicos de la IA en lugar de la tecnología en sí.
Fuente: Associated Press
