Saltar al contenido Que saber
- Anthropic Lanzó una nueva iniciativa de investigación dedicada a la buena cantidad de modelos de inteligencia artificial.
- El programa estudiará si los sistemas de IA merecen una consideración moral.
- Estos esfuerzos reaccionan a las crecientes preguntas sobre la conciencia de la IA y la agencia.
- Anthropic El propósito de abordar el tema con precaución y apertura, reconociendo muchas incertidumbre.
Anthrope Company for Security and Research AI anunció el lanzamiento de un nuevo programa sobre el estudio del bienestar de los modelos de inteligencia artificial. Dado que los sistemas de inteligencia artificial se vuelven más avanzados y comienzan a demostrar cualidades como la comunicación, la planificación y el logro de la meta, la compañía cree que es hora de considerar el problema de si estos sistemas pueden requerir una vez una consideración moral.
La nueva iniciativa de investigación explorará el territorio complejo y en gran medida desconocido del «modelo de bienestar». Esto incluye una investigación si los modelos de inteligencia artificial pueden desarrollar formas de conciencia o experiencia que harían su significado temático bien Anthropic Se reconoce que estos problemas son filosóficos y científicamente complejos, sin tener en cuenta el consenso actual sobre si los sistemas de inteligencia artificial pueden ser conscientes o cómo medir su experiencia.
El programa antrópico cruzará su trabajo constante sobre la ciencia de la alineación, las garantías y la interpretación. La Compañía planea estudiar signos que puedan indicar preferencias o estrés del modelo y, si es necesario, considerar intervenciones prácticas. El estudio también se basará en informes de expertos recientes que enfatizan la posibilidad de la conciencia más cercana de la IA y la agencia, suponiendo que algunos modelos de IA pueden ganar consideración moral.
A pesar del ambicioso área, Anthropic Enfatiza un enfoque modesto y cauteloso. La compañía es reconocida en una profunda incertidumbre en muchos aspectos del bienestar del modelo y tiene la intención de reconsiderar sus ideas a medida que se desarrolla la región. Anthropic El propósito del intercambio de actualizaciones a medida que se desarrolla el estudio, ofreciendo una discusión más amplia de aspectos éticos de sistemas de IA cada vez más complejos.
