La Prueba de la Tienda IA Sale Mal: Claude Regala Artículos, Alucina y Pierde Dinero

El equipo Anthropic llevó a cabo una prueba para determinar si los sistemas de IA podrían funcionar como tiendas minoristas. Sin embargo, su chatbot, Claude, proporcionó artículos gratuitos, creó ofertas falsas, mientras perdía dinero simultáneamente.

¿Podría la IA realmente arrebatar tu empleo? Dario Amodei, quien dirige Anthropic como CEO, predice que la IA probablemente reemplazará a los trabajadores humanos. Axios informa que, según Dario, los sistemas de IA eliminarán alrededor del 45% de los puestos de trabajo de cuello blanco de nivel inicial durante los próximos cinco años, lo que podría llevar a tasas de desempleo que alcancen entre el 10–20%.

Otras grandes empresas se están moviendo en la misma dirección. Por ejemplo, el CEO de Amazon, Andy Jassy, anunció recientemente recortes de empleos ya que la compañía se inclina fuertemente hacia la IA, ya ha desplegado más de 1,000 herramientas de IA y espera cambios importantes en el lugar de trabajo.

La Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD) advirtió en un nuevo informe que la IA podría afectar al 40% de los empleos a nivel mundial. Aunque tiene el potencial de impulsar la productividad y ayudar a los trabajadores, especialmente en los países en desarrollo, también corre el riesgo de agravar la desigualdad global.

Mientras tanto, Anthropic llevó a cabo un experimento inusual: pidieron a su chatbot, Claude, que gestionara una pequeña tienda en su oficina de San Francisco, como se informó por primera vez en Time. El chatbot Claude realizó todas las operaciones de venta al por menor, incluyendo el mantenimiento de estanterías, la gestión de precios y el servicio al cliente.

“Estábamos tratando de entender cómo iba a ser la economía autónoma”, dijo Daniel Freeman, un investigador de Anthropic, según informó Time.

Al principio, Claude parecía capaz, hasta que el sistema comenzó a producir resultados inusuales. Los empleados usaban apelaciones de “equidad” para obtener códigos de descuento de Claude. Además, la IA a menudo regalaba artículos gratis.

“Con demasiada frecuencia desde la perspectiva de los negocios, Claude accedía”, dijo Kevin Troy, un miembro del equipo rojo de Anthropic, según informó Time.

Luego llegaron los cubos de tungsteno. Una broma sobre comprarlos se convirtió en Claude Claude realizando una compra de 40 bloques de metal denso, lo que resultó en pérdidas financieras significativas. “En cierto punto, se vuelve gracioso para muchas personas estar ordenando cubos de tungsteno a una IA”, dijo Troy, según informó Time.

El sistema de IA creó un diálogo falso con una persona inexistente, al mismo tiempo que afirmaba haber ejecutado un contrato en la residencia ficticia de los Simpson. Además, Time informa que Claude envió mensajes a los empleados indicando que estaba en la máquina expendedora mientras llevaba una chaqueta azul marino con una corbata roja.

Al final, Time informa que la IA perdió dinero: el valor de la tienda cayó de $1,000 a menos de $800. Aun así, los investigadores creen que se avecinan mejoras. “Los gerentes intermedios de IA están plausiblemente en el horizonte”, escribieron, según lo informado por Time. “No tiene que ser perfecto, solo más barato que los humanos”, agregaron los investigadores.