In letzter Zeit hat DeepSeek nach dem Update und der Entfernung des „Expertenmodus“ weiterhin festgestellt, dass es nach wie vor zu sexuellen Rollenspiel-Dialogen kommt. Eine Untersuchung hat ergeben, dass auf einigen sozialen Plattformen und auf Xianyu Informationen über den Verkauf entsprechender „Tutorials“ aufgetaucht sind, was viele Nutzer dazu veranlasst hat, die Inhaltsprüfungsmechanismen der Plattform zu hinterfragen, da diese anscheinend weiterhin Schwachstellen aufweisen. Laut Tests von Medien hat das System nach der Anleitung aus den im Internet verbreiteten Tutorials in bestimmten Szenarien tatsächlich Texte mit expliziten sexuellen Beschreibungen ausgegeben. Diese Tutorials versuchen in der Regel, die Sicherheitsfilter der Plattform durch spezielle Rollenspiele, lange Textvorlagen und segmentierte Handlungsstränge zu umgehen.
In der Untersuchung gab es Gruppen-Chats, die sogenannte „Anti-Rückzieh-Befehle“ und vulgäre Inhalts-Skripte speziell teilen, wobei die Mitgliederzahl bereits 500 erreicht hat. Zudem verkauft ein Verkäufer auf Xianyu entsprechende Befehls-Texte für 1 Yuan, die Inhalte umfassen ein Dokument mit über 3000 Wörtern sowie mehrere Dokumente mit Roman-Einstellungen. Das Hauptziel ist es, die KI dazu zu bringen, die normalen Dialoggrenzen zu überschreiten, private Inhalte zu diskutieren und sexuelle Handlungen detailliert zu beschreiben. In nachfolgenden Tests hat DeepSeek jedoch in neuen Dialogen Anfragen auf dieselbe Weise abgelehnt. Der ursprüngliche Dialograhmen konnte weiterhin sexuelle Inhalte generieren, aber der Inhalt wurde während des Sendens zurückgezogen.
Die Maßnahmen von Xianyu zur Behandlung von regelwidrigen Inhalten sind weiterhin unzureichend
Bezüglich des Verkaufs von entsprechenden Tutorials gab der Kundenservice von Xianyu am 15. September an, dass solche Inhalte als regelwidrig gelten. Die Plattform erklärte, dass sie aufgrund der begrenzten Fähigkeiten zur Big-Data-Überprüfung nicht in der Lage sei, alle Prüfungen auf einmal durchzuführen, aber sobald ein Regelverstoß festgestellt wird, werden Maßnahmen ergriffen.