OpenAI advierte que podrías enamorarte de su asistente de voz GPT-4o
El GPT-4o tiene cualidades para poder crear con los usuarios un vínculo emocional. Esta es una de las frases que se puede ver en el ...
El GPT-4o tiene cualidades para poder crear con los usuarios un vínculo emocional. Esta es una de las frases que se puede ver en el último informe que OpenAI llevó a cabo antes de lanzar GPT-4o. Este informe ofrece detalles como la evaluación de riesgos y las investigaciones sobre las fortalezas de este modelo.
En él menciona la posibilidad de que se le atribuyan comportamientos y características humanas y que los usuarios puedan generar un lazo emocional con el chatbot.
Los usuarios podrían enamorarse de la voz de GPT-4oRecordemos que este modelo de OpenAI es el primero de la compañía entrenado con voz, además de datos de texto e imágenes. Antes de su debut, se utilizó a un grupo externo de expertos en seguridad para encontrar debilidades y riesgos clave en el modelo. Examinaron riesgos como la posibilidad de que creara clones no autorizados de la voz de alguien, contenido erótico y violento.
Estos resultados se están publicando y señalan que algunos usuarios han utilizado un lenguaje que mostraba signos de un vínculo con ChatGPT e intimar con un chatbot de inteligencia artificial tendría efectos negativos en el largo plazo. En palabras de la compañía, afirman que al formar relaciones sociales con la IA, los humanos reducirían su necesidad de interacción con otras personas, lo que podría afectar a las relaciones saludables.
Los investigadores encontraron que GPT-4o presentaba un riesgo medio y reflejaron cuatro categorías generales: ciberseguridad, amenazas biológicas, persuasión y autonomía del modelo. Todas ellas se consideraron de bajo riesgo menos la persuasión, donde los investigadores vieron que algunas muestras de escritura podrían ser mejores para influir en las opiniones de los lectores que el texto escrito por humanos.
Esto puede generar una dependencia excesiva, así que desde OpenAI confirman que “van a estudiar más a fondo el potencial de la confianza emocional y las formas en las que una integración más profunda de multitud de características del modelo y sistemas con la modalidad de audio puede impulsar el comportamiento”.
