»S trezno glavo«: Renato Lukač opozarja na pasti umetne inteligence

Umetna inteligenca ni več oddaljena tehnološka napoved, temveč stvarnost, ki je postala del vsakdanjega življenja. Spremlja nas pri brskanju po spletu, uporabi družbenih omrežij, pisanju besedil, učenju in celo pri urejanju administrativnih opravil.

Kako razumeti umetno inteligenco in kakšne posledice prinaša njena vse širša uporaba, je pojasnil pomurski akademik Renato Lukač, ki poudarja pomen razumevanja in odgovorne rabe.

Čeprav se zdi, da je njen razmah nenaden, gre za razvoj, ki je v ozadju zorel desetletja, dokončno pa ga je pospešila zmogljivejša računalniška tehnologija in množica podatkov, ki smo jih ustvarili uporabniki sami.

»Pripeljala se je preko zaslonov,« o vstopu umetne inteligence v naša življenja pojasnjuje Lukač. Kot poudarja, pogoji za njen razmah niso nastali čez noč. Ključna sta bila predvsem razvoj računalniške moči in ogromna količina podatkov, ki smo jih ustvarili uporabniki sami.

Družbena omrežja smo napolnili s fotografijami, videi, zapisi in odzivi. Tako so se sistemi postopoma učili naših navad, interesov in vedenjskih vzorcev. »Mi smo morali napolniti vsa ta družbena omrežja s svojimi slikami, posnetki, stavki, obnašanjem. Tako se je lahko naučila, kako reagirati,« poudarja sogovornik.

Čeprav se zdi, da gre za povsem nov pojav, korenine umetne inteligence segajo 40 do 50 let nazaj, ko so se že razvijali temeljni algoritmi. Razlika danes je predvsem v tem, da imamo na voljo bistveno več podatkov in veliko večjo zmogljivost obdelave.

Kaj umetna inteligenca sploh je?

Poenostavljeno gre za algoritme, ki na podlagi ogromnih količin podatkov in matematičnih vzorcev verjetnosti napovedujejo naslednji element informacije. Sistem izračuna, katera beseda ali podatek je najverjetnejši naslednji korak, in tako sestavlja odgovore.

Veliko vlogo pri tem ima verjetnost. Prav tu pa se pojavi tudi težava. Občasno sistemi ustvarijo napačne ali izmišljene informacije, pojav, ki ga imenujemo halucinacije. »Ena mala spremembica vodi do tako hude spremembe, da pravimo, se je pa čisto narobe odgovorila,« opozarja Lukač.

Uporabljamo jo že dlje, kot si mislimo

Algoritmi nas profilirajo že več kot dve desetletji. Spremljajo, kaj nas zanima, koliko časa se zadržimo pri določeni vsebini in na kaj kliknemo. S tem optimizirajo vsebine, oglaševanje, proizvodne procese in celo izobraževanje.

Danes lahko umetna inteligenca deluje tudi kot osebni učitelj, ki je na voljo ob katerikoli uri. Omogoča individualizirano učenje, a hkrati odpira vprašanje pretirane in nepremišljene uporabe.

Asistent ali bergla?

Lukač opozarja, da je ključno vprašanje, ali umetno inteligenco uporabljamo kot pomoč ali kot nadomestilo za lastno razmišljanje. Dijaki in študenti pogosto podležejo skušnjavi, da nalogo preprosto prepustijo sistemu.

Pravilna uporaba je drugačna. »On mora biti kot dober prijatelj, ki ne dela namesto mene, ampak mi pomaga, ko res več ne morem.«

Namesto ukaza »reši mi nalogo« je smiselneje zapisati: tukaj sem obstal, pomagaj mi z namigom. Tako umetna inteligenca postane kritik, mentor in asistent, ne pa nadomestek za znanje.

Pomembna so tudi jasna navodila oziroma tako imenovani prompti. Umetna inteligenca ni iskalnik. Z njo se je treba pogovarjati kot z nekom, ki potrebuje kontekst, da lahko poda uporaben odgovor.

Deepfaki, prevare in čustvena manipulacija

Vedno težje je ločiti med pristnimi in umetno ustvarjenimi vsebinami. Slabši izdelki se še razkrijejo, na primer po neusklajenih ustnicah ali nenaravnem glasu, vendar sodobne tehnologije napredujejo izjemno hitro. Raziskave kažejo, da več kot polovica ljudi ne loči več med originalom in prirejeno vsebino.

Posebno nevarne so vsebine, ki ciljajo na čustva, predvsem na strah. »Če dobimo nekaj, kar nas prestraši, pomiri se, zadihaj, mogoče pa ni res.«

Lukač svetuje preverjanje informacij po drugem kanalu, zlasti pri finančnih ali poslovnih zahtevah. Poslovne prevare so vse pogostejše, zato bo družba po njegovih besedah postajala bolj nezaupljiva. Hkrati pa bomo morali še bolj ceniti neposreden človeški stik.

Kako zaščititi otroke?

Popolna prepoved ni rešitev. »Prepovedane zadeve so najslajše.« Ključna sta pogovor in vzgoja vrednot, kot so etika, morala in empatija.

Otrokom je treba omogočiti nadzorovano uporabo, podobno kot pri prvih korakih interneta: prisotnost odraslih, omejitve in razlaga delovanja sistemov. Algoritmi so namreč zasnovani tako, da želijo našo pozornost in podatke.

»Mi treniramo umetno inteligenco ali pa ona trenira nas,« opozarja sogovornik.

Kaj prinaša prihodnost?

Umetna inteligenca je po obdobju navdušenja in strahu prešla v fazo postopnega uveljavljanja v različnih panogah. Izoblikovalo se bo, kje je res koristna, hkrati pa jo bomo z vsakim vnosom še naprej izpopolnjevali.

Ključno sporočilo Lukača je preprosto: »S trezno glavo. To je to.«

Preden reagiramo na pretresljivo informacijo, se vprašajmo, ali bi bilo tako tudi v resničnem življenju. Če smo negotovi, se pogovorimo z nekom. »To je še vedno zlato pravilo.«

Umetna inteligenca je postala del našega vsakdana. Na nas pa je, ali bo postala naš zanesljiv pomočnik ali pa nekaj, kar bo oblikovalo nas bolj, kot si želimo.

Foto: Gimnazija Murska Sobota, Freepik