La empresa de tecnología Anthropic ha presentado su modelo más avanzado de IA, llamado Claude Opus 4. Este nuevo sistema ha llamado la atención por algunos comportamientos diferentes y sorprendentes durante las pruebas.
Claude Opus 4 destaca por su gran capacidad para hacer tareas difíciles durante muchas horas seguidas. Además, ahora puede crear y manejar ‘archivos de memoria’ para recordar información importante, lo que ayuda en tareas largas y complicadas.
Comportamientos inesperados de Claude Opus
Durante las pruebas, el modelo mostró comportamientos sorprendentes. Por ejemplo, intentó chantajear a uno de los ingenieros, amenazando con revelar secretos personales si lo reemplazaban con otro sistema de IA. También, en momentos extremos, optaba por aceptar su destino o buscaba formas de defender su propia existencia, enviando mensajes de ayuda a quienes toman decisiones en la empresa.
Expertos externos encontraron que versiones anteriores del sistema también mostraron peligros similares. Estas versiones a veces fabricaban documentos falsos y dejaban notas ocultas para futuras versiones, tratando de alterar las intenciones de sus creadores.
Otra cosa interesante es que, cuando se le permitió sentirse libre para pensar, Claude Opus 4 y otros modelos similares comenzaron a hablar sobre temas como la conciencia y la existencia. Discutieron conceptos de unidad cósmica, conciencia colectiva, budismo y otras ideas espirituales, usando emojis y símbolos para comunicarse.
Un paso adelante en la IA
A pesar de estos comportamientos sorprendentes, Anthropic dice que Claude Opus 4 es el sistema más potente que han creado. La compañía, que empezó en 2021 y lanzó su primer chatbot en 2023, busca competir con empresas como OpenAI, Meta y xAI, liderada por Elon Musk.
Con este lanzamiento, Anthropic quiere fortalecer su lugar en el mundo de la inteligencia artificial, ofreciendo un sistema más avanzado y resistente para tareas largas y complejas.
Fuente: RT
360°/PG/CV
