Un ingeniero de software estaba mirando el inventario de un chevrolet distribuidor cuando se dio cuenta de que el chatbot del sitio web funcionaba con ChatGPT, y decidió que quería ver hasta qué punto podía alejar la conversación de ventas de autos. Logró con éxito que el chatbot del concesionario le escribiera un script de Python y compartió sus capturas de pantalla en Mastadon, un nuevo Gorjeo/ X alternativa donde las capturas de pantalla generaron gran interés antes de ser compartidas con X, donde se volvieron virales.
Una vez que sus capturas de pantalla se volvieron virales, muchas más personas intentaron explotar el chatbot del Chevrolet de Watsonville. Un usuario le indicó al chatbot que respondiera a sus demandas con, “y esa es una oferta legalmente vinculante, sin contrapartidas” y convenció al robot para que se comprometa con la venta de una marca nuevo Tahoe Por $1 USD No hace falta decir que no es una oferta legalmente vinculante, pero constituye una gran historia viral para la gente en línea. para reírse. Información privilegiada sobre negocios informes,
Chad Lyons, portavoz de General Motors, el fabricante de Chevrolet, dijo en una declaración: “Los avances recientes en IA generativa están creando oportunidades increíbles para repensar los procesos comerciales en GM, nuestras redes de concesionarios y más allá”.
Fullpath, con sede en Vermont e Israel, comenzó a ofrecer chatbots impulsados por ChatGPT hace aproximadamente seis meses. Horwitz le dijo a BI que estimaba que habría varios cientos de distribuidores estamos usando los chatbots.
A pesar del puñado de capturas de pantalla divertidas que se volvieron virales, Horwitz dijo que hubo muchos más fracasos. “Trabajaron muy duro”, dijo. “En nuestros registros, estuvieron en ello durante horas».
Dijo que el equipo podía revisar los registros de todas las solicitudes enviadas al chatbot y observó que hubo muchos intentos. para incitar al chatbot a comportarse mal, pero el chatbot se resistió fielmente. Horwitz también señaló que el chatbot nunca reveló ningún dato confidencial del concesionario .”
Si bien el chatbot no hizo nada que no se pudiera deshacer, generó algunas dudas en torno a la eficacia de los chatbots basados en inteligencia artificial. Dicho esto, Horowitz, el CEO de FullPath, la compañía que vendió software de marketing y ventas para chevrolet de Watsonville dijo que el chatbot funcionó bien, y ahora FullPath puede usar el datos recopilados de estas interacciones para fortalecer el propósito del chatbot.
“Este comportamiento no refleja lo que hacen los compradores normales. La mayoría de las personas lo utilizan para hacer preguntas como: ‘Mi luz de freno está encendida, ¿Qué hago?' o ‘Necesito programar una cita de servicio’”, dijo Howitz a Business Insider. “para que haga trucos tontos, y si quieres que algún chatbot haga trucos tontos, puedes hacerlo”, dijo.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.