Stack Overflow prohíbe temporalmente las respuestas del chatbot ChatGPT de OpenAI
El sitio de preguntas y respuestas se ha inundado de respuestas de codificación de ChatGPT que parecen correctas pero que a menudo no lo son, y los moderadores han pedido que se detenga.
Stack Overflow, un sitio donde los desarrolladores pueden hacer y responder preguntas de codificación, ha prohibido temporalmente el uso de texto generado por ChatGPT, un chatbot lanzado por Open AI la semana pasada.
ChatGPT se basa en el modelo de lenguaje GPT-3 de OpenAI. La gente ha descubierto rápidamente que, si bien responde a las indicaciones de una manera "adyacente a los humanos", puede haber fallas en las respuestas que da.
Desde su lanzamiento, se le ha solicitado de numerosas maneras, como escribir nuevo código y corregir errores de codificación, mientras que el chatbot puede pedir más contexto cuando un humano le pide que resuelva problemas de codificación, como OpenAI establece en ejemplos. Pero Open AI también señala que ChatGPT a veces escribe "respuestas que suenan plausibles pero incorrectas o sin sentido".
Esta parece ser una causa clave de su impacto en Stack Overflow y sus usuarios que buscan respuestas correctas a los problemas de codificación. Además, debido a que ChatGPT genera respuestas tan rápidamente, algunos usuarios proporcionan muchas respuestas generadas por él sin analizarlas para verificar su corrección.
"El problema principal es que, si bien las respuestas que produce ChatGPT tienen una alta tasa de ser incorrectas, generalmente parecen ser buenas y las respuestas son muy fáciles de producir", dicen los moderadores de Stack Overflow en una publicación.
StackOverflow impuso la prohibición temporal porque las respuestas creadas por ChatGPT son "sustancialmente dañinas" tanto para el sitio como para los usuarios que buscan respuestas correctas.
"En general, debido a que la tasa promedio de obtener respuestas correctas de ChatGPT es demasiado baja, la publicación de respuestas creadas por ChatGPT es sustancialmente perjudicial para el sitio y para los usuarios que preguntan o buscan respuestas correctas", dijo.
Sam Altman, jefe de OpenAI, dijo en Twitter que desde su lanzamiento el miércoles pasado, ChatGPT tiene más de un millón de usuarios. Altman le dijo al propietario de Twitter, Elon Musk, que el costo promedio de cada respuesta era de "centavos de un solo dígito", pero admitió que eventualmente tendrá que monetizarlo debido a sus costos de cómputo "desorbitados".
Algunos desarrolladores creen que el impacto de ChatGPT en Stack Overflow fue un problema obvio porque permitiría a los usuarios jugar con su sistema de reputación.
“People posting GPT answers to stackoverflow to scoop the points without knowing if the answer is actually correct” is one of those problems that’s too obvious to even foresee https://t.co/eDfa2zu9Wt
— badidea 🪐 (@0xabad1dea) December 5, 2022
Hasta ahora, Stack Overflow ha detectado publicaciones generadas por ChatGPT por "miles". El otro problema es que muchas respuestas requieren un análisis detallado por parte de alguien con experiencia en el tema para determinar si la respuesta es mala.
A partir de la política temporal, si se sorprende a algún usuario humano publicando respuestas generadas por ChatGPT, Stack Overflow impondrá "sanciones" al usuario, incluso si la publicación fue aceptable.
"Como tal, necesitamos que el volumen de estas publicaciones se reduzca y tenemos que ser capaces de lidiar con las que se publican rápidamente, lo que significa tratar con los usuarios, en lugar de publicaciones individuales", dice Stack Overflow.
"Entonces, por ahora, el uso de ChatGPT para crear publicaciones aquí en Stack Overflow no está permitido. Si se cree que un usuario ha utilizado ChatGPT después de que se publique esta política temporal, se impondrán sanciones para evitar que los usuarios continúen publicando dicho contenido, incluso si las publicaciones serían aceptables".