Ietvars, lai novērtētu strauji attīstās digitālās un saistītās tehnoloģijas: AI, lieli valodu modeļi un ne tikai

• Ievads 
• fons 
• Analītiskās sistēmas izstrāde 
• Izmantojot analītisko sistēmu 
• Izmēri, kas jāņem vērā, novērtējot jaunu tehnoloģiju 
• Ceļš uz priekšu 
• Pateicības

Strauji topošās tehnoloģijas rada sarežģītus jautājumus attiecībā uz to pārvaldību un iespējamo regulējumu. Politika un publiskās debates par mākslīgo intelektu (AI) un tā izmantošanu ir izvirzījušas šos jautājumus akūtā uzmanības centrā. Lai gan UNESCO, ESAO un citi ir izsludinājuši plašus mākslīgā intelekta principus un notiek jaunas diskusijas par tehnoloģiju globālo vai jurisdikcijas regulējumu, pastāv ontoloģiska plaisa starp augsta līmeņa principu izstrādi un to iekļaušanu regulējumā, politikā, pārvaldības un pārvaldības pieejas. Šeit īpaša loma varētu būt nevalstiskajai zinātnieku kopienai. 

Vairāki akadēmiķi un politikas eksperti ir ierosinājuši Starptautiskajai Zinātnes padomei (ISC) — ar tās plurālistisku sociālo un dabas zinātņu pārstāvi — izveidot procesu, lai izveidotu un uzturētu anotētu sistēmu/kontrolsarakstu par riskiem, ieguvumiem, draudi un iespējas, kas saistītas ar strauji mainīgām digitālajām tehnoloģijām, tostarp, bet ne tikai, AI. Kontrolsaraksta mērķis būtu informēt visas ieinteresētās puses, tostarp valdības, tirdzniecības sarunu vedējus, regulatorus, pilsonisko sabiedrību un nozari, par iespējamiem nākotnes scenārijiem, kā arī noteikt, kā tās varētu apsvērt iespējas, ieguvumus, riskus un citus jautājumus. 

Rezultāti darbotos nevis kā novērtēšanas struktūra, bet gan kā adaptīvs un mainīgs analītisks ietvars, kas varētu būt par pamatu visiem novērtēšanas un regulēšanas procesiem, ko varētu izstrādāt ieinteresētās personas, tostarp valdības un daudzpusējā sistēma. Ideālā gadījumā jebkura analītiskā sistēma būtu jāizstrādā neatkarīgi no valdības un nozares prasībām, ņemot vērā to saprotamās intereses. Tam ir jābūt arī maksimāli plurālistiskam savās perspektīvās, tādējādi aptverot visus tehnoloģijas aspektus un tās sekas. 

Šajā diskusiju dokumentā ir izklāstīts sākotnējais ietvars, lai informētu par daudzajām globālajām un nacionālajām diskusijām, kas notiek saistībā ar AI. 

Tehnoloģijas straujā parādīšanās ar mākslīgā intelekta sarežģītību un ietekmi izraisa daudzus apgalvojumus par lieliem ieguvumiem. Tomēr tas arī izraisa bailes no būtiskiem riskiem, sākot no indivīda līdz ģeostratēģiskam līmenim. Liela daļa diskusiju mēdz notikt viedokļu spektra galējos galos, un ir nepieciešama pragmatiskāka pieeja. AI tehnoloģija turpinās attīstīties, un vēsture liecina, ka praktiski katrai tehnoloģijai ir gan labvēlīga, gan kaitīga izmantošana. Tāpēc jautājums ir: kā mēs varam sasniegt labvēlīgus šīs tehnoloģijas rezultātus, vienlaikus samazinot kaitīgo seku risku, no kurām dažas varētu būt eksistenciālas? 

Nākotne vienmēr ir neskaidra, taču ir pietiekami daudz uzticamu un ekspertu viedokļu par AI un ģeneratīvo AI, lai veicinātu salīdzinoši piesardzīgu pieeju. Turklāt ir nepieciešama sistēmu pieeja, jo AI ir tehnoloģiju klase, ko plaši izmanto un pielieto dažāda veida lietotāji. Tas nozīmē, ka, apsverot mākslīgā intelekta ietekmi uz indivīdiem, sociālo dzīvi, pilsonisko dzīvi, sabiedrisko dzīvi un globālā kontekstā, ir jāņem vērā viss konteksts. 

Atšķirībā no vairuma pagātnes tehnoloģiju, digitālajām un saistītajām tehnoloģijām ir ļoti īss laika posms no izstrādes līdz izlaišanai, ko lielā mērā nosaka ražošanas uzņēmumu vai aģentūru intereses. AI strauji izplatās; dažas īpašības var kļūt redzamas tikai pēc izlaišanas, un tehnoloģijai var būt gan ļaundabīgi, gan labvēlīgi pielietojumi. Svarīgu vērtību dimensijas ietekmēs to, kā tiek uztverts jebkāds lietojums. Turklāt var būt ģeostratēģiskas intereses. 

Līdz šim virtuālās tehnoloģijas regulējums lielā mērā ir skatīts caur “principu” un brīvprātīgas ievērošanas objektīvu. Tomēr pēdējā laikā diskusija ir pievērsusies valsts un daudzpusējas pārvaldības jautājumiem, tostarp regulatīvo un citu politikas instrumentu izmantošanai. Apgalvojumi par vai pret AI bieži ir hiperboliski un, ņemot vērā tehnoloģijas būtību, ir grūti novērtējami. Efektīvas globālas vai valsts mēroga tehnoloģiju regulēšanas sistēmas izveide būs sarežģīta, un visā ķēdē būs nepieciešami vairāki uz risku balstīti lēmumu pieņemšanas līmeņi, sākot no izgudrotāja līdz ražotājam, lietotājam, valdībai un daudzpusējai sistēmai. 

Lai gan augsta līmeņa principus cita starpā ir izsludinājusi UNESCO, ESAO un Eiropas Komisija, un notiek dažādas augsta līmeņa diskusijas par iespējamā regulējuma jautājumiem, pastāv liela ontoloģiska plaisa starp šādiem principiem un pārvaldību vai normatīvo regulējumu. Kāda ir apsvērumu taksonomija, kas regulatoram varētu būt jāņem vērā? Šauri fokusēta kadrēšana nebūtu saprātīga, ņemot vērā šo tehnoloģiju plašo ietekmi. Šis potenciāls ir bijis daudzu komentāru priekšmets gan pozitīvi, gan negatīvi.

ISC ir galvenā globālā NVO, kas integrē dabas un sociālās zinātnes. Tā globālā un disciplinārā sasniedzamība nozīmē, ka tai ir labas iespējas sniegt neatkarīgus un globāli nozīmīgus padomus, lai sniegtu informāciju par sarežģītām izvēlēm, kas gaidāmas, jo īpaši tāpēc, ka pašreizējās balsis šajā jomā lielākoties nāk no nozares vai no lielākajām tehnoloģiju lielvalstīm. Pēc plašām diskusijām pēdējo mēnešu laikā, tostarp apsvērumiem par nevalstisku novērtējuma procesu, ISC secināja, ka tās visnoderīgākais ieguldījums būtu izstrādāt un uzturēt adaptīvu analītisko ietvaru, ko var izmantot par pamatu diskusijām un lēmumu pieņemšanai. visām ieinteresētajām personām, tostarp jebkura formālā novērtēšanas procesa laikā. 

Šis regulējums būtu visaptverošs kontrolsaraksts, ko varētu izmantot gan valdības, gan nevalstiskās institūcijas. Ietvars identificē un pēta tādas tehnoloģijas kā AI un tās atvasinājumu potenciālu, izmantojot plašu objektīvu, kas aptver cilvēku un sabiedrības labklājību, kā arī ārējos faktorus, piemēram, ekonomiku, politiku, vidi un drošību. Daži kontrolsaraksta aspekti var būt atbilstošāki par citiem atkarībā no konteksta, taču labāki lēmumi ir ticamāki, ja tiek ņemtas vērā visas jomas. Tā ir kontrolsaraksta pieejas raksturīgā vērtība. 

Ierosinātā sistēma ir iegūta no iepriekšējā darba un domām, tostarp Starptautiskā valdības zinātnes padomu tīkla (INGSA) digitālās labklājības ziņojuma.¹ un ESAO MI klasifikācijas ietvaru² prezentēt AI iespējamo iespēju, risku un seku kopumu. Šo iepriekšējo produktu nolūks bija ierobežotāks, ņemot vērā to laiku un kontekstu, tāpēc ir vajadzīga visaptveroša sistēma, kas atspoguļo visu problēmu loku gan īstermiņā, gan ilgākā termiņā. 

Lai gan šī analītiskā sistēma ir izstrādāta AI apsvērumiem, to var izmantot jebkurai strauji augošai tehnoloģijai. Tālākai pārbaudei jautājumi ir plaši sagrupēti šādās kategorijās: 

• Labklājība (tostarp indivīdu vai sevis labklājība, sabiedrība un sociālā dzīve, kā arī pilsoniskā dzīve) 
• Tirdzniecība un ekonomika 
• vides 
• Ģeostratiskā un ģeopolitiskā 
• Tehnoloģiskās (sistēmas īpašības, dizains un izmantošana) 

Ir iekļauts apsvērumu saraksts katrai no iepriekš minētajām kategorijām, kā arī to attiecīgajām iespējām un sekām. Daži no tiem attiecas uz konkrētiem AI gadījumiem vai lietojumprogrammām, savukārt citi ir vispārīgi un platformas vai lietojuma agnostiķi. Neviens šeit iekļautais apsvērums nav jāuzskata par prioritāti, un tādēļ ir jāpārbauda visi. 

Šo sistēmu var izmantot, bet ne tikai, šādos veidos: 

• Lai pārvarētu plaisu starp principiem un novērtējumu, izveidojot apstiprinātu kopēju taksonomiju dažādiem apsvērumiem, ko attiecīgās ieinteresētās personas varētu izmantot kā pamatu, lai informētu un veidotu turpmāko domāšanu, tostarp jebkuru novērtējuma sistēmu, ko varētu izstrādāt iestādes. 

• Informēt ietekmes novērtējumus. ES AI likums nosaka, ka organizācijām, kas nodrošina AI rīkus vai savos procesos izmanto AI, jāveic ietekmes novērtējums, lai noteiktu savu iniciatīvu risku un piemērotu atbilstošu riska pārvaldības pieeju. Šeit izklāstīto sistēmu varētu izmantot par pamatu tam. 

• Uzlabot ētikas principus, kas nepieciešami, lai vadītu un pārvaldītu AI izmantošanu. Ietvars to var paveikt, nodrošinot elastīgu pamatu, uz kura var izstrādāt uzticamas sistēmas, un nodrošinot likumīgu, ētisku, stabilu un atbildīgu tehnoloģiju izmantošanu. Šos principus varētu pārbaudīt attiecībā pret visu šajā sistēmā izklāstīto ietekmi. 
• Lai atvieglotu esošo pasākumu (ti, reglamentējošo, likumdošanas, politikas) izvērtējumu un apzinātu visus trūkumus, kas jāapsver. 

• Ietvars ir agnostisks pret tehnoloģiju un tās izmantošanu. Tāpēc to varētu izmantot diezgan atšķirīgās jomās, piemēram, sintētiskajā bioloģijā. 

Sekojošā tabula ir agrīna analītiskā ietvara dimensiju veidošana. Atkarībā no tehnoloģijas un tās izmantošanas daži komponenti būs atbilstošāki nekā citi. Piemēri ir sniegti, lai ilustrētu, kāpēc katrs domēns var būt svarīgs; kontekstā sistēmai būtu nepieciešama kontekstuāli atbilstoša paplašināšana. Ir arī svarīgi nošķirt platformas izstrādi un vispārīgas problēmas, kas var rasties konkrētu lietojumprogrammu laikā.  

Taustiņš deskriptoru avoti

Vienkāršs teksts:
Glikmens, P. un Alens, K. 2018. Izpratne par labklājību strauju digitālo un saistīto transformāciju kontekstā. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Pilnais teksts:
ESAO. 2022. gads. ESAO AI sistēmu klasifikācijas sistēma. OECD Digital Economy Papers, Nr. 323, OECD Publishing, Parīze. https://oecd.ai/en/classification 

Kursīvs teksts:
Jauni deskriptori (no vairākiem avotiem) 

Atkarībā no atbildes uz šo diskusiju dokumentu ISC izveidos ekspertu darba grupu, lai turpinātu attīstīt vai grozīt iepriekš minēto analītisko ietvaru, ar kuru ieinteresētās puses varētu vispusīgi aplūkot jebkuru būtisku platformu vai lietošanas dimensiju attīstību. Darba grupa būtu disciplināri, ģeogrāfiski un demogrāfiski daudzveidīga, un tās zināšanas aptvertu no tehnoloģiju novērtējuma līdz sabiedriskajai politikai, no tautas attīstības līdz socioloģijai un nākotnes un tehnoloģiju pētījumiem. 

Lai iesaistītos šajā diskusiju dokumentā, lūdzu, apmeklējiet vietni padome.science/publications/framework-digital-technologies 

Šī dokumenta izstrādē, ko sagatavoja Sir Peter Gluckman, ISC prezidente un Hema Sridhara, bijusī Aizsardzības ministrijas galvenā zinātniece un tagad vecākā pētniece Oklendas Universitātē, Jaunzēlandē. 

Jo īpaši mēs pateicamies Lordam Martinam Rīsam, bijušajam Karaliskās biedrības prezidentam un Kembridžas Universitātes Eksistenciālo risku izpētes centra līdzdibinātājam; profesors Shivaji Sondhi, fizikas profesors, Oksfordas universitāte; profesors K Vijay Raghavan, bijušais Indijas valdības galvenais zinātniskais padomnieks; Amandeep Singh Gill, ANO ģenerālsekretāra sūtnis tehnoloģiju jautājumos; Dr Seán Óh Éigeartaigh, Kembridžas Universitātes Eksistenciālo risku izpētes centra izpilddirektors; Amanda-June Brawner, vecākā politikas padomniece un Ians Viginss, Starptautisko lietu direktors, Karaliskā biedrība UK; Dr Jerome Duberry, Dr Marie-Laure Salles, direktors, Ženēvas absolventu institūts; Chor Pharn Lee kungs, Singapūras premjerministra biroja Stratēģiskās nākotnes centrs; Barend Mons un Dr Simon Hodson, Datu komiteja (CoDATA); Prof. Juko Harajama, Japāna; profesors Rémi Quirion, INGSA prezidents; Dr. Klēra Kreiga, Oksfordas Universitāte un bijusī Valdības Zinātnes biroja prognozēšanas nodaļas vadītāja; un prof. Yoshua Bengio, ANO ģenerālsekretāra Zinātniskā konsultatīvā padome un Monreālas Universitāte. Kontrolsaraksta pieeja kopumā tika atbalstīta, un tika uzsvērts ISC veikto darbību savlaicīgums.