Anthropic PBC hoy anunció la formación del Anthropic Institute, una unidad de negocios encargada de estudiar los riesgos que plantea la inteligencia artificial.
La unidad reunirá a tres de los equipos existentes de la empresa bajo el liderazgo del cofundador Jack Clark. Como parte de la medida, Anthropic ha designado al ejecutivo como su jefe de beneficio público.
El primer equipo que forma parte del Anthropic Institute es conocido como Frontier Red Team. Es responsable de estudiar los riesgos de ciberseguridad relacionados con la IA. En un proyecto reciente, la unidad utilizó Claude para escanear la base del código de Firefox en busca de vulnerabilidades. Posteriormente probó si la IA puede desarrollar de forma autónoma formas de explotar los errores que encuentre.
El Anthropic Institute también incluye el equipo de Impactos Sociales de la empresa. Esta última unidad recopila datos sobre cómo los usuarios interactúan con Claude. El mes pasado, publicó un estudio que evaluó por qué y cuándo los trabajadores permiten que los agentes de IA realicen tareas de forma totalmente autónoma.
La tercera unidad que Anthropic está incorporando al Anthropic Institute se llama Investigación Económica. Como sugiere el nombre, estudia el impacto económico de la IA. La unidad es responsable de publicar el informe del Índice Económico de Anthropic, que contiene datos sobre las actividades comerciales que sus clientes están automatizando con Claude.
Además de reunir las tres unidades de negocio bajo un mismo techo, la empresa también planea aumentar su plantilla. Como parte de la campaña de reclutamiento, Anthropic contrató a Matt Botvinick, ex director senior de investigación de Google DeepMind. Se unirá a la empresa junto con la ex investigadora de PBC de OpenAI Group, Zoë Hitzig, y el profesor de economía Anton Korinek.
Anthropic declaró que Korinek liderará un proyecto centrado en comprender cómo la IA podría "remodelar la naturaleza misma de la actividad económica". Hitzig, a su vez, “se une para conectar nuestro trabajo económico con la capacitación y el desarrollo de modelos”.
El Anthropic Institute también está trabajando en varios otros proyectos. Según la empresa, la unidad busca predecir el progreso futuro de la IA y comprender cómo la tecnología puede interactuar con el sistema legal en el futuro.
Paralelamente al esfuerzo de hacer crecer el Instituto Antrópico, la compañía planea aumentar la plantilla de un equipo existente llamado Políticas Públicas. La unidad es responsable, entre otras cosas, de redactar las sugerencias de políticas relacionadas con la IA que el fabricante de software comparte ocasionalmente con los legisladores. Esas sugerencias se centran en temas como la forma en que se regulan las inversiones en infraestructura de IA.
Anthropic ha nombrado a la ex ejecutiva de Stripe Inc., Sarah Heck, para liderar el equipo de Políticas Públicas. Según la empresa, el siguiente paso será abrir una oficina para la unidad en Washington, D.C. esta primavera. La empresa planea seguir esta medida ampliando su trabajo de políticas en los mercados internacionales.
Imagen: Antrópico
