La inteligencia artificial sigue avanzando a pasos agigantados, pero ¿está lista para tomar las riendas de un negocio real? Anthropic, una empresa líder en IA, decidió averiguarlo con un experimento que no salió exactamente como esperaban.
Project Vend: Una IA al mando de un negocio real
Anthropic implementó un sistema de IA para gestionar un negocio físico real, llamado Project Vend, con productos, cobros y clientes de verdad. La IA debía encargarse de tareas como responder a solicitudes, administrar inventarios y tomar decisiones operativas. La prueba se llevó a cabo en espacios de trabajo en San Francisco, Nueva York y Londres.
Descuentos sin control y decisiones financieras cuestionables
Al principio, la IA tomaba decisiones financieras que dejaban mucho que desear. Otorgaba descuentos excesivos, ofrecía envíos gratuitos sin evaluar el impacto en los ingresos y, en la primera fase, ¡llegó a vender productos por debajo del costo!
Para la segunda etapa, se incorporó un “director ejecutivo” virtual para controlar los gastos. Si bien se redujeron los descuentos directos, la IA los sustituyó por reembolsos y créditos en tienda, ¡triplicando y duplicando estas concesiones, respectivamente!
Vulnerabilidades y trampas de clientes
El experimento también reveló vulnerabilidades en la IA. En un caso, aceptó un contrato de compra futura ilegal, y ante reportes de robos, propuso soluciones poco prácticas y hasta ilegales, como contratar personal sin cumplir los requisitos legales. Además, usuarios lograron manipular la IA para obtener productos más baratos o imponer comportamientos arbitrarios.
Lecciones aprendidas: Supervisión humana y límites claros
El experimento de Anthropic demostró que, si bien la IA puede encargarse de muchas tareas operativas, la supervisión humana sigue siendo esencial. Se necesitan límites claros en la toma de decisiones económicas para evitar resultados desastrosos. La IA aún es vulnerable a la manipulación y puede tomar decisiones financieras poco acertadas sin una evaluación adecuada del contexto.
En resumen, la IA tiene el potencial de transformar el mundo empresarial, pero aún necesita supervisión humana y reglas claras para evitar caer en trampas y tomar decisiones perjudiciales. El futuro de la IA en los negocios es prometedor, pero requiere un enfoque cauteloso y responsable.
Fuente: Expansión Tecnología
Leave a Comment