Anthropic advierte sobre una catástrofe de la IA si los gobiernos no regulan en 18 meses
"La ventana para la prevención proactiva de riesgos se está cerrando rápidamente", afirma la empresa. He aquí por qué.
A sólo unos días de las elecciones presidenciales de Estados Unidos, la empresa de inteligencia artificial Anthropic aboga por su propia regulación, antes de que sea demasiado tarde.
El jueves, la compañía, que se destaca en la industria por su enfoque en la seguridad, publicó recomendaciones para que los gobiernos implementen "regulaciones específicas" junto con datos potencialmente preocupantes sobre el aumento de lo que llama riesgos "catastróficos" de la IA.
los riesgos
En una publicación de blog, Anthropic señaló cuánto progreso han logrado los modelos de IA en codificación y delitos cibernéticos en solo un año. "En la tarea de ingeniería de software del banco SWE, los modelos han mejorado de ser capaces de resolver el 1,96% de un conjunto de pruebas de problemas de codificación del mundo real (Claude 2, octubre de 2023) al 13,5% (Devin, marzo de 2024) al 49% ( Claude 3.5 Sonnet, octubre de 2024),", escribió la empresa. "Internamente, nuestro equipo Frontier Red ha descubierto que los modelos actuales ya pueden ayudar en una amplia gama de tareas relacionadas con delitos cibernéticos, y esperamos que la próxima generación de modelos, que podrán planificar tareas largas y de varios pasos -- será aún más eficaz".
Además, la publicación del blog señaló que los sistemas de inteligencia artificial han mejorado su comprensión científica en casi un 18% solo de junio a septiembre de este año, según la prueba de referencia GPQA. OpenAI o1 logró un 77,3% en la sección más difícil de la prueba; Los expertos humanos obtuvieron una puntuación del 81,2%.
La compañía también citó una prueba de riesgo del Instituto de Seguridad de IA del Reino Unido en varios modelos por uso indebido de sustancias químicas, biológicas, radiológicas y nucleares (QBRN), que encontró que "los modelos pueden usarse para obtener conocimientos de nivel experto sobre biología y química". También encontró que las respuestas de varios modelos a preguntas científicas "estaban a la par con las dadas por expertos con nivel de doctorado".
Estos datos eclipsan la predicción de Anthropic para 2023 de que los riesgos cibernéticos y QBRN serían apremiantes en dos o tres años. "Basándonos en el progreso descrito anteriormente, creemos que ahora estamos sustancialmente más cerca de tales riesgos", decía el blog.
Directrices para los gobiernos
"Una regulación sensata y con objetivos específicos puede permitirnos obtener lo mejor de ambos mundos: aprovechar los beneficios de la IA y al mismo tiempo mitigar los riesgos", explica el blog. "Demorarse podría conducir a lo peor de ambos mundos: una regulación instintiva y mal diseñada que obstaculiza el progreso y al mismo tiempo no resulta efectiva".
Anthropic sugirió pautas para que la acción gubernamental reduzca el riesgo sin obstaculizar la innovación en la ciencia y el comercio, utilizando su propia Política de Escalamiento Responsable (RSP) como un "prototipo", pero no un reemplazo. Al reconocer que puede ser difícil anticipar cuándo implementar barreras de seguridad, Anthropic describió su RSP como un marco de gestión de riesgos proporcional que se ajusta a las crecientes capacidades de la IA mediante pruebas de rutina.
"La estructura 'si-entonces' requiere que se apliquen medidas de seguridad, pero sólo cuando los modelos sean lo suficientemente capaces como para garantizarlas", explicó Anthropic.
La empresa identificó tres componentes para una regulación exitosa de la IA: transparencia, incentivos para la seguridad y simplicidad y enfoque.
Actualmente, el público no puede verificar si una empresa de inteligencia artificial cumple con sus propias pautas de seguridad. Para crear mejores registros, dijo Anthropic, los gobiernos deberían exigir a las empresas que "tengan y publiquen políticas similares a RSP", delinear qué salvaguardas se activarán y cuándo, y publicar evaluaciones de riesgos para cada generación de sus sistemas. Por supuesto, los gobiernos también deben tener un método para verificar que todas esas declaraciones de las empresas sean, de hecho, ciertas.
Anthropic también recomendó que los gobiernos incentiven prácticas de seguridad de mayor calidad. "Los reguladores podrían identificar los modelos de amenazas que los RSP deben abordar, bajo algún estándar de razonabilidad, dejando los detalles a las empresas. O podrían simplemente especificar los estándares que un RSP debe cumplir", sugirió la compañía.
Incluso si estos incentivos son indirectos, Anthropic insta a los gobiernos a mantenerlos flexibles. "Es importante que los procesos regulatorios aprendan de las mejores prácticas a medida que evolucionan, en lugar de ser estáticos", decía el blog, aunque eso puede ser difícil de lograr para los sistemas burocráticos.
Puede que sea innecesario decirlo, pero Anthropic también enfatizó que la legislación debe ser fácil de entender e implementar. Al describir las regulaciones ideales como "quirúrgicas", la compañía abogó por la "simplicidad y el enfoque" en sus consejos, alentando a los gobiernos a no crear "cargas" innecesarias para las empresas de IA que puedan distraer.
"Una de las peores cosas que podría pasarle a la causa de la prevención de riesgos catastróficos es que se forme un vínculo entre la regulación necesaria para prevenir riesgos y reglas onerosas o ilógicas", afirma el blog.
Asesoramiento industrial
Anthropic también instó a sus colegas de IA a implementar RSP que respalden la regulación. Señaló la importancia de situar la seguridad informática con anticipación, no después de que los riesgos hayan causado daños, y cuán importante es eso para lograr ese objetivo.
"Si se implementan correctamente, los RSP impulsan la estructura organizacional y las prioridades. Se convierten en una parte clave de las hojas de ruta de los productos, en lugar de ser simplemente una política sobre el papel", señaló el blog. Anthropic dijo que los RSP también instan a los desarrolladores a explorar y revisar los modelos de amenazas, incluso si son abstractos.
Entonces, ¿qué sigue?
"Es fundamental que durante el próximo año los formuladores de políticas, la industria de la IA, los defensores de la seguridad, la sociedad civil y los legisladores trabajen juntos para desarrollar un marco regulatorio eficaz que cumpla con las condiciones mencionadas anteriormente", concluyó Anthropic. "En Estados Unidos, lo ideal sería que esto suceda a nivel federal, aunque la urgencia puede exigir que sea desarrollado por estados individuales".