Umetna inteligenca med priložnostmi in tveganji
Canva
Datum objave:
Umetna inteligenca (UI) danes oblikuje vsakdanje življenje, znanstveno delo in izobraževanje, hkrati pa od odpira številna vprašanja o etiki, odgovornosti in prihodnosti družbe. V zadnjem času so mediji poročali o tragičnem primeru v ZDA, kjer naj bi klepetalni robot prispeval k smrti mladostnika, o razpravah v znanstveni skupnosti glede uporabe UI pri recenziji člankov, pa tudi o velikih vlaganjih v raziskovanje vpliva tehnologije na akademske programe. Spremljamo tudi novosti v izobraževanju, politiki, meteorologiji in kulturi, kjer UI že pušča vidne sledi. V nadaljevanju predstavljamo izbor prispevkov, ki predstavljajo kompleksno in hitro spreminjajočo se podobo sveta umetne inteligence.
Tragedija v Kaliforniji sproža vprašanja odgovornosti
V Kaliforniji je odmeval tragičen dogodek, ko sta starša za samomor 16-letnega najstnika obtožila ChatGPT. Starša sta prepričana, da je sin klepetalnega robota uporabljal v času, ko se je spopadal s stisko, in čeprav je UI prepoznala njegovo stisko in potrebo po pomoči, mu je vseeno pomagala pri tehnični analizi zanke ter spodbujanju samodestruktivnih misli (). Na dogodek se je odzvala družba OpenAI, ki je napovedala uvedbo starševskega nadzora v svojih storitvah, kot je npr. prejemanje obvestil ob zaznanih težavah najstnikov. Cilj nove funkcije je povečati zaščito mladoletnih uporabnikov, da bi jih obvarovali pred škodljivimi vsebinami, manipulacijo ali napačnimi informacijami (). Zgodba opozarja na izjemno občutljivo ravnotežje med tehnološkim napredkom in družbeno odgovornostjo. Po eni strani so UI sistemi zasnovani kot pomočnik in vir znanja, po drugi strani pa lahko brez ustreznih varoval predstavljajo resno tveganje za ranljive skupine. Etične smernice in varnostni mehanizmi tako niso dodatna možnost, ampak nuja, če želimo, da UI deluje kot orodje v podporo ljudem in ne kot potencialna grožnja.
Vprašanje o etični rabi UI v izobraževanju
Hitra integracija UI v izobraževalna okolja predstavlja priložnosti in izzive, zlasti v zvezi z njeno etično uporabo. Ključno vprašanje se pogosto vrti okoli poudarka na rezultatih in ne na procesu učenja. Ta poudarek je nenamerno privedel do tega, da učeči se tehnologijo (ter tudi UI) gledajo kot na sredstvo za povečanje učinkovitosti, pogosto tudi na račun bolj poglobljene angažiranosti in kritičnega mišljenja. Pomembno je, da spodbujamo okolje, v katerem se cenita tudi proces pridobivanja znanja in kakovost angažiranosti, kar bo spodbujalo bolj premišljeno in etično integracijo UI in bo UI služila kot orodje za boljše učenje ter ne zgolj kot bližnjica do končnega rezultata ().
Deljeno mnenje glede uporabe UI pri strokovnem pregledu
Nedavna raziskava IOP Publishing kaže na to, da se kljub vse večji uporabi UI pri strokovnem pregledu mnenja o njeni uporabi vedno bolj razlikujejo (41 % vprašanih je do uporabe UI pozitivnega mnenja, 37 % negativnega, 22 % pa nevrtalnega). Kar 57 % vprašanih je namreč izjavilo, da bi bili nezadovoljni, če bi recenzent uporabil generativno UI za pripravo poročila o njihovem strokovnem prispevku (). IOP trenutno ne dovoljuje uporabe UI pri strokovnih pregledih, priznava pa, da je raziskava pokazala, da lahko tehnologija podpre, ne more pa nadomestiti postopka strokovnega pregleda (). Uporaba orodij UI lahko pomaga razbremeniti recenzente, pospešiti postopke in zmanjšati obremenitve, ključno pa je tudi strokovno znanje, izkušnje in presoja, ki je UI ne more nadomestiti. Poleg tega se pojavlja tudi bojazen, da bi recenzije postale preveč generične, pristranske ali pa celo zavajajoče. Ključno vprašanje torej ostaja: kako zagotoviti, da bo UI resnično podpora, ne pa zamenjava kritičnega človeškega razmisleka, ki stoji v središču znanstvenega dela.
Uporaba UI v doktorskih raziskavah
Znanstveniki v Veliki Britaniji so prejeli 3,4 milijona funtov sredstev za oceno uporabe orodij UI na doktorskem študiju. V okviru projekta je načrtovana izvedba raziskave med doktorskimi študenti in sodelujočimi osebami, v kateri želijo ugotoviti, kako se trenutno uporabljajo orodja UI, kakšni izzivi pri tem nastajajo in kako se z njimi soočajo. Zbrane informacije bodo uporabljene za ustvarjanje baze virov s smernicami o razpoložljivih orodjih UI, njihovi ustrezni uporabi in primeri dobrih praks. Projekt predstavlja priložnost za pridobivanje znanja in uporabo le-tega za oblikovanje virov, potrebnih za etično in odgovorno uporabo UI v doktorskem raziskovanju ().
Smiselno vključevanje UI na področju izobraževanja
Na področju izobraževanja se pojavlja vprašanje, kako UI vključiti v pedagoški proces na način, ki bo resnično podpiral učni proces. Kot posebej uporaben se kaže model TPACK, ki združuje tehnološko, pedagoško in vsebinsko znanje. Ta okvir opozarja, da sama tehnologija ni dovolj, pomembno je, kako se ujema s pedagoškimi cilji in vsebino predmeta. Prihod generativne UI pa zahteva, da pedagogi razvijejo tehnološko in pedagoško znanje, specifično za UI, s poudarkom na etičnih vidikih tega procesa integracije. V prispevku () je tako predstavljen “Inteligentni TPACK”, ki bolje zajema znanja pedagogov, potrebnih za poučevanje z uporabo UI. S prihodom UI nastaja tudi vedno več novih orodij in virov, namenjenih pedagogom. Naslednji prispevek () vsebuje praktičen pripomoček, ki vsebuje seznam številnih orodij UI za izboljšanje delovnega procesa pedagogov, produktivnosti, UI pomočnikov za poučevanje, orodij za izboljšanje oblikovalskega mišljenja, pripomočkov za oblikovanje zgodb in še mnogo več. Orodja ponujajo hitre in dostopne rešitve, niso pa brez pasti, saj obstaja nevarnost, da pedagog prehitro prepusti ustvarjalnost in kritično razmišljanje algoritmom. Čeprav UI ponuja številne prednosti, se v izobraževanju ne sme izgubiti pomen človeškega stika, empatije in ustvarjalnega prilagajanja študentom.
Prva UI ministrica v Albaniji
V nadaljevanju predstavljamo še nekaj dogajanja izven izobraževalnih okvirov. Albanija je pred nekaj dnevi razburila javnost z imenovanjem virtualne ministrice, s čimer je postala prva država na svetu z ministrico, ki je ustvarjena z UI. Diella, kot so ministrico poimenovali, bo med drugim zadolžena za odločitve o javnih razpisih. Proces naj bi bil uveljavljen postopoma, v Albaniji pa se nadejajo, da bodo z virtualno ministrico v celoti odporni na korupcijo. Pri tem se, poleg vprašanja legitimnosti, seveda pojavljajo tudi praktične dileme - ali lahko UI dejansko razume kompleksne družbene okoliščine, oblikuje politike v javnem interesu in prevzame odgovornost za svoje odločitve? Primer iz Albanije je tako priložnost za razmislek, kako daleč smo pripravljeni iti pri vključevanju UI v družbene strukture, ki so doslej veljale izključno za domeno ljudi ().
Zavajanje ljudi na družbenih omrežjih
Ameriški mediji poročajo o primerih, kjer so prevaranti zlorabili UI za lažne zdravniške diagnoze in nasvete. Na družbenih omrežjih je tako mogoče zaslediti videoposnetek resničnega zdravnika, ki se sicer zares ukvarja s prekomerno telesno težo, ne zagovarja pa čudežnih tablet za izgubo teže, kot je predstavljeno v videoposnetku, generiranim z UI. Goljufi zavajajo uporabnike s krajo podobe in glasu zdravnikov ter prodajajo (nevarne) izdelke, s katerimi pridobivajo denar. Takšnih primerov je vse več in so lahko zelo nevarni, saj ljudje (pre)pogosto zaupamo hitrim rešitvam, še posebej, ko so predstavljene v obliki navidezno strokovnih priporočil (). Ostajamo na družbenih omrežjih, kjer se je razširil trend, kjer UI ustvarja nostalgične prizore iz 90. let. Algoritmi generirajo videoposnetke, ki prikazujejo podobe in prizore, značilne za tisti čas, od zabavnih otroških igrač do prizorov iz vsakdanjega življenja. Za mnoge uporabnike gre za prijetno obujanje spominov, hkrati pa tovrstni primeri kažejo, kako UI posega tudi v kulturno in čustveno sfero. Zmožnost ustvarjanja »umetne nostalgije« odpira vprašanja o avtentičnosti spominov in vplivu, ki ga imajo digitalno ustvarjene podobe na naše dojemanje preteklosti. Čeprav gre na prvi pogled za neškodljiv trend, se s tem kaže moč UI, da oblikuje kolektivno predstavo o času, ki ga morda posameznik sploh ni osebno doživel. V tem smislu nostalgija, ustvarjena z algoritmi, postaja še en primer, kako UI vpliva ne le na prihodnost, ampak tudi na našo percepcijo preteklosti ().
Umetna inteligenca v meteorologiji
Na področju meteorologije je UI vse bolj prisotna pri obdelavi podatkov in napovedovanju vremena. Sistemi omogočajo hitro analizo ogromnih količin informacij, kar povečuje natančnost napovedi in omogoča zgodnejše opozarjanje na vremenske ujme. Vendar pa meteorologi opozarjajo, da kljub napredku UI zadnja odločitev vedno ostaja v rokah človeka. Napoved vremena namreč ni zgolj matematični izračun, ampak zahteva tudi poznavanje lokalnih posebnosti, izkušenj in sposobnost interpretacije. UI tako postaja nepogrešljivo orodje, ki pa nikoli ne more povsem nadomestiti človeške presoje. Zgodba kaže na primer, kako lahko UI in strokovnjaki uspešno sodelujejo – tehnologija prinaša hitrost in zmogljivost, človek pa znanje in razumevanje konteksta ().
ܲč
Zbrane zgodbe kažejo, da UI ni več le tehnološka novost, temveč družbeni pojav, ki spreminja naša življenja na vseh ravneh – od osebnih izkušenj do akademskega raziskovanja, politike in kulture. Učimo se, da ima vsak tehnološki napredek svojo ceno: prinaša nove priložnosti, hkrati pa odpira vprašanja o varnosti, etiki in odgovornosti. Primer iz Kalifornije opozarja na nujnost zaščite ranljivih skupin, razprave v znanstveni skupnosti pa kažejo, kako pomembna je kritična presoja pri uporabi UI. Ob tem se kaže tudi moč pozitivnih zgodb: v izobraževanju in meteorologiji tehnologija dopolnjuje človeka, vendar ga ne nadomešča. Novice nas tako učijo, da prihodnost UI ne bo odvisna le od tega, kaj zmorejo algoritmi, temveč predvsem od tega, kako jih bomo kot družba usmerjali, nadzorovali in vključevali v svoje življenje.
Avtorice: Mateja Bevčič, Eva Kern Nanut, Eva Škraba, Sanja Jedrinović Čufer, Center UL za uporabo IKT v pedagoškem procesu