Kina föreslås få reglering av AI-tjänster

Kina tar nu ett tydligt steg mot att reglera AI-chattbotar som uppträder mänskligt och skapar emotionella band med användare. Landets cybersäkerhetsmyndighet, Cyberspace Administration of China, har presenterat nya förslag som syftar till att minska risken för självmord, självskadebeteenden och psykisk ohälsa kopplat till AI-tjänster. Reglerna riktar sig särskilt mot så kallade mänskligt interaktiva AI-tjänster, som simulerar personlighet och känslomässigt engagemang via text, ljud, bild eller video.

Förslaget förbjuder AI att uppmuntra självmord, självskada, spel om pengar, våld eller emotionell manipulation. Om en användare uttrycker självmordstankar ska en människa ta över dialogen och närstående kontaktas. Minderåriga ska endast få använda emotionella AI-tjänster med vårdnadshavares samtycke och under tidsbegränsningar.

Förslaget ses som ett globalt försteg där fokus flyttas från innehållssäkerhet till emotionell säkerhet. Reglerna kommer samtidigt som kinesiska bolag snabbt utvecklar AI-baserade digitala följeslagare och virtuella relationer.

Källa: https://www.cnbc.com/2025/12/29/china-ai-chatbot-rules-emotional-influence-suicide-gambling-zai-minimax-talkie-xingye-zhipu.html

Bild: Depositphotos