Senadores y representantes del Congreso estadounidense, preocupados por el impacto de la Inteligencia Artificial en la sociedad y la economía, expresaron sus temores el martes pasado por la posible mala utiización de la IA generativa, y para ello invitaron a Sam Altman, director ejecutivo de OpenAI (creadores del ChatGPT) dado que éste ha manifestado su opinión de que la IA debe ser legislada.
Para el Congreso es una gran oportunidad, dado que la IA está relativamente en una fase inicial y, esta temprana intervención puede generar un movimiento bipartidista hacia tal legislación, aunque no haya todavía una voluntad concreta de hacerlo.
Fernando Nunez-Noda + IA
Altman estuvo acompañado en su comparecencia por Christina Montgomery de IBM y Gary Marcus, profesor de la Universidad de Nueva York.
Aquí dejamos un compendio de lo conversado y expresado por Altman y algunos legisladores:
- Explicó cómo funciona ChatGPT y por qué se lanzó en sociedad con Microsoft.
- Recomendó al Congreso trabajar con empresas como OpenAI para crear un marco legal efectivo y justo.
- Dijo que su peor temor era “que causemos un daño significativo al mundo”.
- El senador John Kennedy (R-La) expresó: “Amigos, esta es su oportunidad de decirnos cómo hacerlo bien. Por favor, aprovéchenla” y pidió a Altman hablar en lenguaje sencillo y señalar qué reglas implementar.
- Varios miembros dijeron que el Congreso no tomó medidas tempranas sobre la regulación de las redes sociales, un error que están decididos a no repetir con AI.
- Algunos legisladores presionaron a Altman sobre cómo cree que los sistemas como ChatGPT deberían considerarse responsables de los daños, si los hay.
- Altman argumentó que la IA generativa es diferente y requiere una respuesta política separada. Para él es una “herramienta” para usuarios que no pueden hacer trabajos completos por sí solos, sino tareas.
- Altman pidió que se forme una agencia gubernamental para promulgar reglas sobre la concesión de licencias para ciertos niveles de sistemas de IA “por encima de un umbral crucial de capacidades”.
- El senador Dick Durbin (D-Ill.) calificó de “histórico” que una empresa acudiera al Congreso para solicitar una regulación.
- Entre las preocupaciones planteadas por los legisladores sobre la IA generativa se cuentan: desinformación electoral, interrupción del trabajo, debilidades en idiomas distintos del inglés, derechos de autor y licencias, contenido peligroso y dañino, suplantación de personalidades públicas y privadas.
- Montgomery de IBM dijo que era importante regular los riesgos, no la tecnología en sí. Expresó que “ésta no puede ser la era de moverse rápido y romper cosas”.
Lo que sigue: miembros del Congreso seguirán promoviendo audiencias sobre IA, como el senador de Delaware Chris Coons (D). La de julio estará dedicada a los derechos de autor y las patentes.
