Recentemente, o aumento das deepfakes, vídeos ou áudios falsificados gerados por inteligência artificial (IA), tem gerado preocupações em diversas áreas. Um exemplo alarmante foi o golpe aplicado em uma mulher, que perdeu uma fortuna ao ser enganada por uma voz falsa do ator Brad Pitt. As fraudes por meio dessas tecnologias estão se tornando uma ameaça à segurança cibernética, com um estudo revelando que poucos conseguem identificar esses conteúdos falsos. Com o avanço da IA, a detecção de tais fraudes é vital para proteger empresas e indivíduos, especialmente à medida que o trabalho remoto cresce.

A OpenAI está considerando permitir que sua IA gere conteúdos pornográficos, violentos e explícitos, em um documento que discute o comportamento dos modelos da empresa. Embora a geração de deepfakes continue proibida, a empresa quer iniciar uma discussão sobre a produção de conteúdo adulto. Com preocupações crescentes sobre a proliferação de imagens falsas de nudez de crianças e adolescentes, a OpenAI busca explorar a possibilidade de fornecer conteúdo NSFW em contextos apropriados. No entanto, os deepfakes permanecem vetados. A discussão gira em torno de permitir ou não a geração de conteúdos NSFW nos modelos da empresa.