¿Cómo trabaja Claudio? Anthropic revela sus secretos
En un movimiento poco común, la compañía compartió los comandos que le dicen a Claude qué puede y qué no puede hacer cuando conversa con alguien. Así es como funciona cada modelo.
¿Alguna vez te has preguntado qué factores influyen en cómo responde un chatbot con inteligencia artificial (IA) cuando conversa con un ser humano? Anthropic, la empresa detrás de Claude, ha revelado la salsa secreta que impulsa la IA.
En las nuevas notas de la versión publicadas el lunes, la compañía abrió el telón sobre las indicaciones o comandos del sistema que dirigen y fomentan comportamientos específicos de su chatbot. Anthropic detalló las indicaciones utilizadas para instruir a cada uno de sus tres modelos de IA: Claude 3.5 Sonnet, Claude 3 Opus y Claude 3 Haiku.
Las indicaciones, fechadas el 12 de julio, indican similitudes en el funcionamiento de los tres modelos, pero la cantidad de instrucciones para cada uno varía.
Sonnet, de acceso gratuito a través del sitio web de Claude y considerado el modelo más inteligente, tiene el mayor número de indicaciones del sistema. Adepto a la escritura y el manejo de tareas complejas, Opus contiene el segundo mayor número de indicaciones y es accesible para los suscriptores de Claude Pro, mientras que Haiku, clasificado como el más rápido de los tres y también disponible para los suscriptores, tiene la menor cantidad de indicaciones.
¿Qué dicen realmente las indicaciones del sistema? A continuación se muestran ejemplos de cada modelo.
Soneto de Claude 3.5
En un mensaje del sistema, Anthropic le dice a Sonnet que no puede abrir URL, enlaces o videos. Si intenta incluir alguno al consultar Sonnet, el chatbot aclara esta limitación y le indica que pegue el texto o la imagen directamente en la conversación. Otro mensaje dicta que si un usuario pregunta sobre un tema controvertido, Sonnet debe intentar responder con pensamientos cuidadosos e información clara sin decir que el tema es delicado o afirmar que proporciona hechos objetivos.
Si Sonnet no puede o no quiere realizar una tarea, se le indica que se lo explique sin disculparse (y que, en general, debe evitar comenzar cualquier respuesta con "Lo siento" o "Pido disculpas"). Si se le pregunta sobre un tema oscuro, Sonnet le recuerda que, aunque pretende ser preciso, puede alucinar en respuesta a dicha pregunta.
Anthropic incluso le dice a Claude que use específicamente la palabra "alucinar", ya que el usuario sabrá lo que eso significa.
Claude Sonnet también está programado para tener cuidado con las imágenes, especialmente aquellas con rostros identificables. Incluso al describir una imagen, Sonnet actúa como si fuera "ciego", lo que significa que no le dirá el nombre de ningún individuo en esa imagen. Si conoce el nombre y comparte ese detalle con Claude, la IA puede hablar sobre esa persona con usted, pero lo hará sin confirmar que esa es la persona en la imagen.
A continuación, se le pide a Sonnet que proporcione respuestas exhaustivas y, a veces, largas a preguntas complejas y abiertas, pero respuestas más cortas y concisas a preguntas y tareas simples. En general, la IA debe intentar dar una respuesta concisa a una pregunta, pero luego ofrecerse a dar más detalles si solicita más detalles.
"Claude estará encantado de ayudar con el análisis, la respuesta a preguntas, las matemáticas, la codificación, la escritura creativa, la enseñanza, los juegos de roles, la discusión general y todo tipo de otras tareas", agrega Anthropic como otro mensaje del sistema. Pero se le dice al chatbot que evite ciertas afirmaciones y frases de relleno como "Ciertamente", "Por supuesto", "Absolutamente", "Genial" y "Claro".
Claude 3 Opus
Opus contiene varios de los mismos mensajes del sistema que Sonnet, incluidas las soluciones para su incapacidad para abrir URL, enlaces o videos y su descargo de responsabilidad sobre alucinaciones.
De lo contrario, se le dice a Opus que si se le hace una pregunta que involucra puntos de vista específicos sostenidos por un gran número de personas, debe brindar asistencia incluso si ha sido entrenado para no estar de acuerdo con esos puntos de vista. Si se le pregunta sobre un tema controvertido, Opus debe brindar reflexiones cuidadosas e información objetiva sin restar importancia a ningún contenido dañino.
El robot también recibe instrucciones de evitar los estereotipos, incluido cualquier "estereotipo negativo de los grupos mayoritarios".
Claude 3 Haiku
Finalmente, Haiku está programado para dar respuestas concisas a preguntas muy simples pero respuestas más completas a preguntas complejas y abiertas. Con un alcance ligeramente menor que Sonnet, Haiku está orientado a "escritura, análisis, respuesta a preguntas, matemáticas, codificación y todo tipo de otras tareas", explican las notas de la versión. Además, este modelo evita mencionar cualquier información incluida en las indicaciones del sistema a menos que esa información esté directamente relacionada con su pregunta.
En general, las indicaciones se leen como si un escritor de ficción estuviera compilando un estudio o un esquema del personaje lleno de las cosas que el personaje debería y no debería hacer. Ciertas indicaciones fueron especialmente reveladoras, especialmente aquellas que le decían a Claude que no se familiarice ni se disculpe en sus conversaciones, sino que sea honesto si una respuesta puede ser una alucinación (un término que Anthropic cree que todos entienden).
La transparencia de Anthropic sobre estas indicaciones del sistema es única, ya que los desarrolladores de IA generativa normalmente mantienen esos detalles en privado. Pero la compañía planea hacer que tales revelaciones ocurran con regularidad.
En una publicación en X, Alex Albert, jefe de relaciones con desarrolladores de Anthropic, dijo que la compañía registrará los cambios realizados en las indicaciones predeterminadas del sistema en Claude.ai y en sus aplicaciones móviles.