-
16:15
-
15:30
-
14:45
-
14:00
-
13:15
-
11:30
-
10:44
-
10:00
-
09:15
-
08:29
-
07:45
China stelt strengere regels voor emotioneel interactieve AI-diensten voor
De Chinese cyberautoriteit heeft zaterdag een conceptregelgeving ter openbare raadpleging gepubliceerd die het toezicht op AI-diensten, ontworpen om menselijke persoonlijkheden te simuleren en gebruikers emotioneel te betrekken, zou verscherpen.
Deze stap onderstreept de inspanningen van Peking om de snelle uitrol van AI voor consumenten te sturen door de veiligheids- en ethische eisen aan te scherpen.
De voorgestelde regels zouden van toepassing zijn op AI-producten en -diensten die in China aan het publiek worden aangeboden en die gesimuleerde menselijke persoonlijkheidskenmerken, denkpatronen en communicatiestijlen vertonen, en die emotioneel met gebruikers interageren via tekst, afbeeldingen, audio, video of andere middelen.
Het concept schetst een regelgevingsaanpak die aanbieders verplicht gebruikers te waarschuwen voor overmatig gebruik en in te grijpen wanneer gebruikers tekenen van verslaving vertonen.
Volgens het voorstel zouden dienstverleners verplicht worden om de veiligheidsverantwoordelijkheid gedurende de gehele productlevenscyclus op zich te nemen en systemen op te zetten voor algoritme-evaluatie, gegevensbeveiliging en bescherming van persoonsgegevens.
Het ontwerp richt zich ook op potentiële psychologische risico's. Aanbieders zouden de gemoedstoestand van gebruikers moeten identificeren en hun emoties en mate van afhankelijkheid van de dienst moeten beoordelen. Als blijkt dat gebruikers extreme emoties of verslavend gedrag vertonen, moeten aanbieders de nodige maatregelen nemen om in te grijpen, aldus het ontwerp.
De maatregelen stellen duidelijke grenzen aan de inhoud en het gedrag, en stellen dat diensten geen inhoud mogen genereren die de nationale veiligheid in gevaar brengt, geruchten verspreidt of geweld of obsceniteit promoot.
