Saltar al contenido Que saber
- Investigadores de la Universidad de Zurich realizaron en secreto un experimento de IA en Subreddit Reddit R/Changhemyview.
- AI Bots publicó más de 1700 comentarios, impresionando a los usuarios y asumir personalidades confidenciales sin consentimiento.
- Respuestas adaptadas a bots utilizando datos personales derivados del historial de usuarios de Reddit.
- El experimento violó las reglas subreddit y la política de Reddit, lo que condujo a una amplia indignación y posibles reclamos judiciales.
Millones de usuarios de Reddit eran inconscientemente parte del experimento secreto realizado por investigadores de la Universidad de Zúrich. Los investigadores utilizaron bots de inteligencia artificial para publicar más de 1,700 comentarios en R/Changemyview Subreddit, una comunidad con más de 3.8 millones de participantes concentrados en el debate y la discusión.
Los bots de IA han asumido una serie de personajes provocativos y sensibles, incluidos los ataques sexuales sobrevivientes, un consultor de lesiones y un negro, criticando las vidas negras. Estos bots respondieron a las publicaciones de los usuarios, a menudo con comentarios profundamente personales y con carga emocional. Los investigadores no revelaron que estos comentarios fueron generados por AI, violando las reglas de subreddite contra el contenido automático no resuelto.
Para hacer que las respuestas sean más convincentes, los bots han analizado la historia de las publicaciones del usuario para hacer características personales, como género, edad, afiliación étnica y opiniones políticas. Luego, los bots adaptaron sus respuestas de acuerdo con estas presuntas características, tratando de influir en la opinión de los usuarios en el debate sobre temas sociales delicados.
Los moderadores R/Changemyview describieron el experimento como «manipulaciones psicológicas» y violación de los estándares éticos. Declararon que los usuarios merecen lugares libres de IA y experimentos sin resolver. El director legal jefe de Reddit calificó el proyecto «profundamente mal a nivel moral y legal». Se prohibieron todas las cuentas relacionadas con el experimento, y Reddit considera medidas legales contra los investigadores.
Investigadores de la Universidad de Zúrich argumentaron que su estudio era necesario para comprender los riesgos asociados con la convencer de la IA, alegando que tienen la aprobación de ética. Sin embargo, la comunidad de Reddit y los moderadores rechazaron esta excusa, enfatizando la importancia del consentimiento y la transparencia en el espacio en línea. Por el momento, la universidad no respondió a las quejas oficiales de la comunidad.
