Debido al avance acelerado de la inteligencia artificial en los últimos meses, algunos líderes mundiales piden a los laboratorios de IA hacer una pausa para replantearse múltiples implicaciones sociales y legales alrededor de esta tecnología.
Elon Musk encabeza el listado de más de mil cien influyentes líderes que han firmado una carta abierta en la que piden a las grandes firmas y laboratorios de inteligencia artificial como OpenAI que detengan el desarrollo de modelos avanzados de lenguaje que sean más potentes que GPT-4 a gran escala, citando temores sobre los potenciales riesgos y peligros de esta tecnología si no es abordada de manera responsable.
La carta fue publicada por el Future of Life Institute, una organización sin fines de lucro con sede en Massachusetts, creada por el cofundador de Skype, Jaan Tallinn y el cosmólogo y científico de machine learning del MIT, Max Tegmark, con el objetivo de defender el desarrollo responsable y ético de la inteligencia artificial.
Desde el lanzamiento de GPT-4 hace algunas semanas, la institución señaló estar preocupada por las posibles amenazas que representa un modelo de lenguaje tan potente, sin lineamientos, regulaciones o leyes que aseguren que garanticen un uso adecuado de estos sistemas y ahora finalmente han decidido actuar con esta solicitud a las firmas.
Solicitan pausa en medio del desarrollo acelerado de la Inteligencia artificial
Además de hombre más rico del mundo, Elon Musk, la causa cuenta con el apoyo del cofunfador de Apple, Steve Wozniak; el CEO de Center for Human Technology, Tristan Harris, el político estadounidense Andrew Yang; el reconocido historiador Yuval Noah Harari; e incluso el CEO y cofundador de Stability AI, Emad Mostaque, quienes junto a otros más de mil líderes e investigadores han firmado la petición de pausa, preocupados por la gran amenaza que la inteligencia artificial generativa podría representar para los humanos si no se controla su capacidad.
“Hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA de última generación más potentes que GPT-4.”, se lee en la carta.
Además de lo anterior, se agrega que la pausa debe de ser pública, verificable e incluir a todos los actores clave involucrados en el desarrollo de IA generativa de última generación. Adicionalmente, sugieren que si las compañías de inteligencia artificial no detienen sus operaciones pronto, los gobiernos deberán intervenir legalmente impartiendo sanciones o moratorias.
El principal objetivo de la pausa, según los signatarios, es que tanto laboratorios de inteligencia artificial como los científicos e investigadores del ramo aprovechen este periodo para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad estandarizados para el diseño y desarrollo de modelos avanzados de IA, los cuales deberían ser rigurosamente supervisados por un organismo autónomo e independiente conformado por expertos en la materia.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.”, señala el escrito.
Invitan al gobierno poner de su parte
Por otro lado, en la carta el Future of Life Institute también invita a los legisladores del gobierno de Estados Unidos a trabajar mano a mano con los desarrolladores y científicos de inteligencia artificial para acelerar drásticamente el avance de iniciativas destinadas exclusivamente a resolver problemáticas relacionadas con la IA.
Algunas de las peticiones son: un fondo para el financiamiento público de investigación técnica sobre la seguridad de la IA, nuevas regulaciones claras dedicadas a mantener controlados los usos de esta tecnología, e instituciones bien dotadas tanto con el conocimiento como los sistemas necesarios para hacer frente a los efectos negativos que la inteligencia artificial generativa podría causar en diversas industrias, así como en la vida de las personas.
Finalmente, en la carta se aclara que estas iniciativas no significan una pausa en el desarrollo de la IA en general ni pretenden retrasar el avance de esta tecnología, simplemente es dar un paso atrás en el incipiente y misterioso camino de la inteligencia artificial generativa al que se está adentrando la humanidad, para que una vez que estos sistemas estén regulados se puedan desarrollar herramientas más completas y responsables con efectos positivos en la sociedad.