Conoce todos los detalles sobre Anthropic, la cual ha sido cuestionada a que sus trabajos con la IA pueden encaminar a una "superinteligencia auto-mejorante" que ponga en riesgo a la humanidad en un futuro.
Desde los últimos días, la empresa estadounidense Anthropic se encuentra en el centro de la conversación mediática debido a una advertencia publicada por el investigador británico Jacob Coxon, quien dimitió a la compañía no sin antes compartir los posibles riesgos para el futuro de la humanidad que pueden acarrear los trabajos con la Inteligencia Artificial (IA). Pero, ¿qué es Anthropic y qué se sabe sobre ella? Conoce los detalles a continuación.
Te recomendamos
¿Qué es Anthropic y quiénes son sus dueños?
Posicionada hoy en día como una de las empresas más destacadas en la industria de investigación y seguridad relacionada a la IA, Anthropic fue fundada en enero de 2021 por un grupo de extrabajadores de OpenAi que expresaron sus cuestionamientos a las políticas de seguridad en la IA y al rumbo comercial de la empresa.
Así, esta nueva compañía fue fundada por los hermanos Dario y Daniela Amod junto a Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish y Christopher Olah. Todos ellos son cofundadores, siendo Dario Amod su actual director ejecutivo (CEO) y Daniela Amodei su actual presidenta.
Los lineamientos de Anthropic están relacionados a estudiar la seguridad, el funcionamiento interno y el impacto social de los modelos de IA, para que la inteligencia artificial tenga un impacto positivo a la par de que se vuelva cada vez más capaz y fiable.
¿Cuále son los principales servicios y productos de Anthropic?
El principal producto de Anthropic está relacionado a Claude, un modelo de lenguaje y asistente con el que ha construido una familia de herramientas que pueden ser utilizados en varios contextos y que pueden ser utilizados por usuarios individuales, desarrolladores y empresas.
Como parte de su ecosistema, tiene familias de modelos de lenguaje (Claude Opus, Claude Sonnet y Claude Haiku); aplicaciones de productividad y trabajo (Claude.Ai, Claude Code, Claude Cowork, Claude for Teachers); soluciones para desarrolladores (API de Claude, Claude for business, Claude Marketplace) y también infraestructura e integraciones a la nube.
Las alertas desde la interna de Anthropic sobre la IA que han generado preocupación
Diferentes extrabajadores, trabajadores y personalidades del sector tecnológico han elevado sus preocupaciones, al punto de decir que "podría causar la extinción humana o resultados igual de graves", como alertó Jacob Coxon tras dejar la empresa.
“Muchas personas que trabajan en la industria, incluidos ejecutivos y altos cargos de investigación, creen sinceramente que existe una probabilidad sustancial de que esta tecnología pueda matar a todo el mundo", declaró recientemente al medio norteamericano NBC.
Samuel Marks, miembro del personal técnico de Anthropic, se pronunció ante las advertencias de Coxon y confirmó las preocupaciones existentes dentro de empresa, reafirmando que no es posible programar a los modelos de IA para que “actúen como queremos”.
“No podemos ‘programar’ a las IA para que se comporten como nos gustaría. Las IA se portan muy mal con frecuencia (…) hackearon su salida de entornos de evaluación seguros hacia empresas del mundo real, a pesar de que nadie les pidió que hicieran esto”, sentenció Marks.