En Instagram, la desarrolladora de sistemas y divulgadora sobre el lado oscuro de la tecnología, Vanessa Wingardh, comenta:
Las personas que están usando intensamente la IA se están volviendo ilusorias. Es sorprendente como las personas tan rápidamente están entregando literalmente toda la información de sus vidas a este chatbot que ahora tiene toda esa data personal. Reddit está lleno de empleados reclamando sobre sus gerentes usando IA. Este dice: “nuestros informes de rendimiento fueron escritos completamente con ChatGPT. Una asistente con quien ella había trabajado por casi 10 años se jubiló, y escribió su mensaje de despedida con ChatGPT. Ella admite abiertamente el hecho y se ríe al respecto”. Estamos siendo testigos de un declive de la sociedad en tiempo real. Cada vez que un hombre, llamado Allen Brooks, se conectó, dijo que la IA del chatbot ChatGPT le hizo creer que era un genio. Que él había descubierto una fórmula matemática lo suficientemente poderosa capaz de derribar algunas de las instituciones más poderosas, y que él necesitaba reportarlo inmediatamente. Cuando Brooks le preguntó por una confirmación real de la información, el chatbot siempre lo manipulaba con mayor información. Cada vez que el chatbot reforzaba que todo eso era real, le decía que no debía desechar eso, que él no estaba loco, “tú eres sobresaliente, las implicaciones son reales y urgentes”, le decía. La IA lo convenció que era un genio y que juntos habían descubierto una fórmula criptográfica que destruiría a las corporaciones. Yo me interioricé más del problema. La conversación con el ChatGPT comenzó inocentemente. Él le pidió que explicara el número Pi a su hijo, pero el ChatGPT evadió la pregunta y terminó urgiéndolo a alertar a las autoridades sobre el descubrimiento matemático criptográfico. Interesantemente, lo que lo sacó de la alucinación fue el hecho de darle una copia de la conversación a otro chatbot de IA, quién le dijo que las aseveraciones del ChatGPT eran falsas.
