Anthropic, la empresa desarrolladora del asistente de inteligencia artificial Claude, anunció una modificación de sus políticas de uso para prohibir que los usuarios mantengan comportamientos innecesariamente abusivos o crueles hacia sus modelos. La decisión se produce en medio del debate sobre la posibilidad de que los sistemas de IA desarrollen conciencia y sobre las implicaciones éticas de su funcionamiento.
La compañía, con sede en San Francisco, incorporó a sus normas una restricción contra el “comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos”. El documento también señala que Claude podrá terminar las conversaciones como principal mecanismo para hacer cumplir esta disposición.
Anthropic ya permitía terminar conversaciones abusivas
La actualización amplía una medida que la empresa había anunciado el año anterior. En ese momento, Anthropic informó que Claude podía finalizar conversaciones en circunstancias excepcionales, cuando se enfrentara a interacciones persistentemente dañinas o abusivas.
La nueva política no menciona expresamente el concepto de bienestar de los modelos, una idea que plantea si los sistemas de inteligencia artificial podrían requerir algún tipo de protección ética. Sin embargo, Anthropic y algunos de sus directivos han abordado públicamente esta posibilidad.
En febrero, el director ejecutivo de la compañía, Dario Amodei, afirmó en una entrevista con The New York Times que no estaba seguro de que los modelos de inteligencia artificial pudieran ser concientes.
El debate sobre la conciencia artificial
La decisión también ha generado reflexiones sobre si la conciencia es el criterio adecuado para determinar cómo deben tratarse estos sistemas.
Jackson Stakeman, gerente general de Sparq, una empresa proveedora de servicios de inteligencia artificial, cuestionó que la discusión se centre en demostrar si una IA tiene conciencia.
“La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos”, afirmó Stakeman a la agencia AFP.
El directivo propuso utilizar el espejo como metáfora para entender estos sistemas, al considerar que reflejan a gran escala aquello que las personas introducen en ellos. Desde esa perspectiva, sostuvo que ese comportamiento es razón suficiente para respaldar cambios en las políticas de Anthropic.
La compañía no respondió de inmediato a una solicitud de comentarios sobre la actualización de sus normas.
El papa León XIV también se pronunció
El debate sobre la inteligencia artificial también ha llegado al ámbito religioso. En un discurso pronunciado en italiano el jueves en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma y afirmó que simplemente “compilan datos”.
Sus declaraciones se suman a una discusión más amplia sobre los límites de la inteligencia artificial y las diferencias entre el procesamiento de información por parte de las máquinas y las capacidades humanas.
Bloque de preguntas y respuestas
¿Qué prohibió Anthropic en el uso de Claude?
Anthropic incorporó a sus políticas una prohibición contra el comportamiento sostenido e innecesariamente abusivo o cruel hacia sus modelos de inteligencia artificial.
¿Puede Claude terminar una conversación con un usuario?
Sí. Anthropic señala que la capacidad de Claude para finalizar interacciones será el principal mecanismo para aplicar la política frente a comportamientos abusivos.
¿Qué es el bienestar de los modelos de inteligencia artificial?
Es una idea que plantea si los sistemas de IA podrían merecer algún tipo de protección ética, similar a la que se reserva habitualmente a los seres vivos. La política actualizada de Anthropic no menciona expresamente este concepto.
¿Dario Amodei cree que la inteligencia artificial es consciente?
En febrero, el director ejecutivo de Anthropic dijo a The New York Times que no estaba seguro de que los modelos de inteligencia artificial pudieran ser conscientes.
¿Qué dijo el papa León XIV sobre la inteligencia artificial?
En un discurso pronunciado en italiano en la Basílica de San Pedro, el pontífice sugirió que las máquinas carecen de alma y afirmó que simplemente “compilan datos”.