ChatGPT har blivit ett av de hetaste ämnena runt om i världen. Ett sådant AI-system kallas 'Generativ AI', vilket kan generera texter, bilder, röster, media, koder och annat material som svar på vad användaren har importerat eller krävt, baserat på algoritmer, modeller och regler. Generativ AI kan användas i olika scenarier och främja revolutionen inom vissa branscher, och därför har det väckt stor uppmärksamhet. Som svar på utvecklingen av Generativ AI, utfärdade Cyberspace Administrative of China (nedan kallat "CAC") de föreslagna administrativa åtgärderna för Generative AI Service (utkast för offentlig kommentar) [1]("生成式人工智能服务管理办法（征求意见稿）", nedan "Utkast till administrativa åtgärder") den 11 april 2023.
1. Höjdpunkter
Utkastet till administrativa åtgärder omfattar 21 artiklar, som täcker nyckelfrågorna nedan.
1) Tillämpningsområde: Extraterritoriell jurisdiktion
Detta utkast till administrativa åtgärder gäller alla som förnyar eller använder Generativ AI och tillhandahåller tjänster i Kina (leverantörerna) (artikel 2). Det betyder att utkastet till administrativa åtgärder skulle ha en extraterritoriell effekt. En sådan extraterritoriell effekt bygger på effektläran och den objektiva territoriella läran. Å ena sidan kan innehållet som genereras av Generativ AI påverka den sociala ordningen eller andra relationer i Kina, och därför ha en effekt i Kina. Å andra sidan kommer Generativ AI att användas av användare i territoriet, driften av Generativ AI som ligger i territoriet, vilket utgör grunden för objektiv territoriell doktrin.
2) Leverantörers skyldigheter
Leverantörerna skulle ta följande ansvar i enlighet med utkastet till administrativa åtgärder.
(1) Innehåll
Leverantörerna bör vara ansvariga för innehållet som genereras av AI. Innehållet ska vara lagligt, korrekt och autentiskt. Det bör inte vara skadeståndsgrundande, diskriminerande, falskt, asocialt, regeringsfientligt, antinationellt, terroristiskt, extremt, våldsamt, pornografiskt och distraherande för ekonomisk och social ordning. Leverantörerna bör ta bort det olämpliga innehållet aktivt eller på begäran av användare och förbättra eller optimera AI.
(2) Utnyttjande
För det första bör leverantörerna följa affärsetik och inte bedriva orättvis konkurrens. För det andra bör leverantörerna inte invadera andras rättigheter, inklusive immateriella rättigheter, personlig information, integritet och affärshemligheter. För det tredje bör leverantörerna inte generera innehållet på ett diskriminerande sätt.
(3) Innovationer
Utkastet till administrativa åtgärder ställer också krav på innovationen av Generativ AI. Leverantörerna bör införa tydliga, specifika och funktionsdugliga instruktioner för bidragsgivare, utbilda bidragsgivare och säkerställa att innehållet är korrekt när den konstgjorda anteckningen krävs.
(4) Samarbete med administrationen
Leverantörerna bör aktivt samarbeta med den förvaltning som krävs enligt bestämmelserna eller administrativa ombud. Först bör leverantörerna registrera den generativa AI eller rapportera för säkerhetsbedömning enligt relaterade bestämmelser om internettjänster. För det andra bör leverantörerna markera de genererade bilderna och videorna i enlighet med förordningen om service av Deepfake.[2] För det tredje bör leverantörerna tillhandahålla viktig information som kan påverka valet av användare på begäran av den administrativa agenten.
(5) Hantering av användarna
Leverantörerna bör hantera användarna av Generativ AI. Först bör leverantörerna begära att användarna tillhandahåller sin identitetsinformation. För det andra bör leverantörerna specificera och publicera målet för deras tjänst och vidta åtgärder för att förhindra att användare blir beroende av innehållet som tillhandahålls av AI. För det tredje bör leverantörerna instruera användarna att använda det generativa innehållet på lämpligt sätt och förbjuda användarna tillfälligt eller permanent om de använder AI illegalt eller omoraliskt.
2. Kommentarer
1) Positiva effekter
Utkastet till administrativa åtgärder är ett snabbt svar från Kina på trenden med generativ AI. Det fungerade som ett viktigt komplement till det regelverk för AI. Det har flera positiva effekter. För det första täcker den de flesta av de juridiska frågor som generativ AI tar upp, inklusive tilldelningen av ansvar för AI, hotet mot immateriella rättigheter, skadligt innehåll, illojal konkurrens och intrång i integriteten, etc. Den tillhandahåller också övervakning av hela livet av den generativa AI, från innovation till användning. För det andra har artikel 3 i utkastet till administrativa åtgärder visat Kinas stödjande inställning till utvecklingen av AI genom att förklara att regeringen skulle stödja och uppmuntra innovation, tillämpning och internationellt samarbete för AI. För det tredje fungerar utkastet till administrativa åtgärder som en väsentlig del av det typologiska regelverket för AI, som består av flera förordningar inriktade på olika kategorier av AI.
2) Juridisk status
Utkastet till administrativa åtgärder är inte en lag, eftersom det är utfärdat av CAC, an
Förvaltningskontor under statsrådet. Enligt Kinas lagstiftning kan lagar endast antas av den nationella folkkongressen. Därför kan CAC endast utfärda administrativa regler eller normativa dokument, som ligger i en lägre hierarki i Kinas lagstiftningshierarkisystem och som inte kan komma i konflikt med lagar. En sådan rättslig status har dock säkerställt flexibilitet och effektivitet i viss utsträckning. Å ena sidan, jämfört med lagar, är kraven för att anta eller ändra administrativa regler eller normativa dokument mindre strikta. Däremot skulle Alla förvaltningsombud kunna utfärda regleringsdokument inom sin egen förvaltningsmyndighet när de anser det nödvändigt, vilket säkerställer ett snabbt svar på behovet av reglering.
3) Risker
Det bör noteras att det kan finnas vissa andra risker med utkastet till administrativa åtgärder. Även om artikel 3 förklarade regeringens stödjande inställning, måste det erkännas att förvaltningen avsevärt har ökat bördan för leverantörer av generativ AI. Tekniken för Generativ AI är långt ifrån mogen. Det är således tveksamt om Leverantörerna är behöriga att uppfylla alla skyldigheter som föreskrivs i Utkastet till administrativa åtgärder, eller åtminstone skulle det öka kostnaden för efterlevnaden. Till exempel uppmanar utkastet till administrativa åtgärder leverantörer att förhindra falskt innehåll. Men tekniskt sett kan innehållet knappast vara 100% autentiskt i nuläget. Det kan kosta mycket för Leverantörerna att uppfylla en sådan skyldighet. Följaktligen kan den höga efterlevnadsbördan till viss del vara ett hinder för utvecklingen och innovationen av Generativ AI.
Sammanfattningsvis återspeglar utkastet till administrativa åtgärder Kinas positiva inställning till att reglera AI. Det har ställt relativt höga krav på efterlevnad på enheter som avser att tillhandahålla tjänster av Generativ AI. Denna attityd bidrar till en sund utveckling av Generativ AI, även om det kan finnas en oro över de höga kostnaderna för efterlevnad. Sammantaget är effekten av utkastet till administrativa åtgärder fortfarande värd att observeras.
[1] Se http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
[2] Cyberspace Administrative of China, Ministry of Industry and Information Technology of China och Ministry of Public Security of China, Regulation on Service of Deepfake, Regulation No. 12.
Omslagsfoto av Nebulär grupp på Unsplash
Medverkande: Jidong Lin 林济东
