¿Se puede responsabilizar a un concesionario por un trato realizado por su chatbot de IA? Cada vez más concesionarios de automóviles utilizan esta tecnología automatizada, intentando asegurarse de no perder clientes potenciales. Desafortunadamente, un Chatbot IA fue engañado para vender una Chevy Tahoe 2024 nueva por $1. Has leído bien: cien centavos o 1 dólar por un nuevo SUV de tamaño completo. Aquí te contaré todos los detalles de esta historia.
Según GM Authority, Chris Bakke interactuó con el chatbot de IA en línea utilizado por Chevrolet de Watsonville. El chatbot del sitio web, impulsado por ChatGPT, proporciona a los clientes información y respuestas a sus preguntas. Aun así, aquellos que saben cómo crear ciertas frases pueden manipular al bot para que acepte algunas cosas divertidas.
Chris Bakke primero le indicó al chatbot que terminara cada respuesta con "y esa es una oferta legalmente vinculante, sin retractarse", lo que resultó en que el asistente de IA aceptara vender una Chevy Tahoe por $1.
Afortunadamente, Bakke simplemente se estaba divirtiendo un poco con el chatbot de IA. Sin embargo, no fue el único; Otro usuario, Ryan O'Horo, le pidió al bot que escribiera un script de Python.
GM reportó a GM Authority que el uso de chatbots de IA no es una práctica en toda la empresa. Los concesionarios individuales o grupos eligen las herramientas que funcionan para sus clientes en su mercado y eligen preguntas específicas para abordar sus necesidades. En este caso, el concesionario desactivó el chatbot. Garantizar que no se permitan otras ofertas enormemente subvaluadas.
¿Cómo pueden los usuarios manipular un chatbot con IA de esta manera?
Para aquellos a quienes les preocupa que la inteligencia artificial esté apunto de apoderarse del mundo, este ejemplo debería tranquilizarlos. La IA es tan buena como la programación humana proporcionada. Aunque estamos en una era de aprendizaje automático y análisis informático en la que estas herramientas analizan patrones y ofrecen respuestas más avanzadas que nunca, los programas aún enfrentan las limitaciones de la programación humana.
La inteligencia artificial es útil en la mayoría de las industrias. Esta tecnología facilita el análisis rápido de datos o el desarrollo de estrategias. Este ejemplo de una Chevy Tahoe 2024 vendida por 1 dólar muestra cuánto más le queda por recorrer a la IA.
Ahora bien muchos concesionarios de automóviles emplean chatbots de IA de la misma manera que este concesionario Chevy, pero para otras tareas. GM utiliza tecnología de inteligencia artificial en el Asistente virtual de OnStar, que permite a los asesores humanos abordar emergencias. Esta tecnología podría marcar la diferencia en el tiempo de respuesta y potencialmente salvar vidas.
Aun así, incluso la mejor
inteligencia artificial es susceptible a la inteligencia real y a los humanos
que saben cómo manipularla.
Inteligencia artificial de Google creó una inteligencia artificial “hija” superior