AI: vojna, ki bo kmalu izbruhnila, ne bo takšna, kot pričakujemo ...

Podobe, ki jih nekako vsiljuje večina znanstvenofantastičnih pripovedi, nam predstavljajo svet, v katerem se bo človeštvo prej ali slej moralo soočiti zUmetna inteligenca. Konflikt bo eksplodiral takoj, ko se AI zave samega sebe in se odloči, da nas bo iztrebil ali našel način, kako nas nadzorovati.

Če je ta perspektiva realna (in bi se dalo na to temo še marsikaj razpravljati), se zdi vojna, ki nas čaka, časovno precej oddaljena, glede na absolutno nezavedanje trenutnih generativnih sistemov. Tako da lahko za zdaj mirno spimo. ali ne?

"Uredba o AI za vojaške namene je nujno potrebna"
Rusko-ukrajinska vojna: Ali umetna inteligenca kaj spremeni?
Zarota, lažne novice in ksenofobija: nevarna digitalna mešanica

Resnične nevarnosti trenutne umetne inteligence

O tej temi je še vedno veliko zmede Umetna inteligenca. Zmedo, ki jo, kar je boleče reči, v dobri umetnosti spodbujajo novinarski kolegi, ki z navdušenjem pišejo o njej, pogosto pa niso tako pripravljeni na razumevanje njene resnične narave, potenciala in tveganj.

Takšno zmedo spodbuja tudi naša naravna težnja, da se projiciramo na katero koli zunanjo entiteto, pa naj bo to druga oseba, žival ali, kot v tem primeru, objekt programske opreme.

Od tod naše težave pri razumevanju, kako navidezno inteligentno vedenje sploh ne predpostavlja avtentičnega zavedanja.

Tako nas opogumljeni s preveč »click-bait« naslovi v splošnih časopisih skrbijo problemi, ki so še daleč v času, ne vidimo ali podcenjujemo tistih, ki nas neposredno zadevajo že danes.

Kot vedno tam tehnologija lahko se uporablja na način, ki ljudem pomaga, pa tudi na način, ki jim škodi.

Na družbeni ravni se lahko na primer uporablja umetna inteligenca za optimizacijo procesov in storitev, kot je promet v mestih ali birokratske in zdravstvene storitve.

Lahko pa pomaga učiteljem pri pripravi prilagojenih lekcij ali testov, ki temeljijo na značilnostih in posebnostih vsakega učenca.

Na osebni ravni lahko vsakemu od nas pomaga bolje organizirati svoje delo in svoj čas, tako da namesto nas obvlada najbolj dolgočasne ali ponavljajoče se dele.

Ali pa nam lahko pomaga bolje izraziti našo ustvarjalnost z ustvarjanjem slik, glasbe ali videoposnetkov po naših navodilih.

Dobro uporabljena umetna inteligenca bi morala dopolnjevati naše dejavnosti, ne pa jih nadomestiti.

Ker pa sedanji generativni sistemi, ki lahko ustvarijo besedilo, slike in videoposnetke, temeljijo na ogromnih bazah podatkov, črpanih predvsem iz interneta, pogosto odražajo naše "pristranskost" predvsem pa delajo na statističnih povprečjih.

Ker se ustvarja vse več vsebine Umetne inteligence samih, obstaja tveganje, da se ustvarijo povprečja povprečij povprečij z vse bolj oprijemljivo izravnavo navzdol.

Vendar so to problemi, s katerimi se je mogoče soočiti in jih rešiti: največje tveganje, o katerem še nisem govoril, je človeški dejavnik.

Fotogalerija, risanke, ki izganjajo strahove spleta
Inovativnost in novinarstvo: pogosto težko sobivanje
Umetna inteligenca je (tudi) revolucija v urejanju fotografij

Moč umetne inteligence in prihajajoči vojni spopad

Doslej sem se ukvarjal s problemi, ki so že znani in se jih navsezadnje da rešiti brez prevelike skrbi. Dobro (ali slabo) prihaja zdaj.

Predstavljajmo si aUmetna inteligenca dobro izurjen, sposoben realistično reproducirati glas kogar koli. Takšni sistemi že obstajajo.

Združimo ga z drugo umetno inteligenco, ki je sposobna ustvarjati verodostojne videoposnetke, v katerih igrajo resnični ljudje. Tudi ti sistemi obstajajo in so bili v nekaterih primerih že uporabljeni.

To je tisto, kar lahko ustvarimo"globok ponaredek" (popolnoma lažni, a popolnoma verodostojni videi) z izjemno preprostostjo, v škodo političnih nasprotnikov, sovražnih držav ali preprosto ljudi, ki jih ne maramo.

Zato ustvarimo na tisoče (ne, na desettisoče) robotov za klepet, ki se pretvarjajo, da so resnični ljudje, prijavite se na najbolj priljubljena družbena omrežja in začnejo deliti videoposnetke, ustvarjene za obrekovanje, uničevanje kariere nasprotnikov ali ustvarjanje čim večjega kaosa v sovražni državi, morda v času volitev.

Tako se rodi vojna resnice in vsi tvegamo, da jo zdaj izgubimo.

In pozabite na zadnje ameriške volitve, ki so bile po mnenju nekaterih analitikov popačene s propagando, »vcepljeno« od zunaj (beri: Ruske federacije).

V primerjavi s potencialom sedanjih sistemov in tistih, ki jih je mogoče doseči v srednji prihodnosti, so bili vsi poskusi izkrivljanja novic iz novembra 2020 otročja igra.

Tako vrtijo bobni prve svetovne vojne AI
Od pizzinov do socialnih omrežij: tako se mafija širi po internetu
Bitka pri Moratu bo največji digitalni objekt na svetu

Halucinacije, ki se uporabljajo kot nekonvencionalno orožje

Le Umetne inteligence Generativni ljudje imajo notranjo napako v svojih načelih delovanja: trpijo za halucinacijami. Zadnje različice, kot je ChatGPT-4, poskušajo ta trend bolj ali manj uspešno omejiti in popraviti.

Ta "halucinatorni potencial" bi lahko v svojo korist izkoristili tudi nedobronamerni uporabniki za širjenje navidez resničnih novic, ki temeljijo na bolj ali manj eksplicitnih prepričanjih določenih političnih skupin, s čimer bi okrepili njihovo "pristranskost”.

Vse z »ognjeno močjo«, ki je neizmerno večja od tiste, ki je bila na voljo do pred nekaj leti.

Dobro organizirana skupina (ki bi ji morda pod mizo pomagala popustljiva vlada) bi izkoristila že znane ranljivosti dobre večine računalniki na internetu za optimizirane napade in prevzem nadzora nad milijoni naprav.

To bi naredil tako, da bi jih uporabil kot strežnike za ustvarjanje ponaredkov socialni račun ki jih ni enostavno ločiti od pristnih.

Lažni računi bi nato širili teze in novice, ki naj bi utrdile prepričanja prej omenjenih skupin.

In edini način za boj proti takim napadom je ... uporabaUmetna inteligenca.

Umetna inteligenca in konflikti v zbirki neobjavljenih esejev
Igralci na udaru: zagovarjanje avtentičnosti in ustvarjalnosti pred umetno inteligenco
Video, švicarsko-burgundski spopad je digitaliziran in ohranjen

Kriza in priložnosti takšne evolucije

Kdo bo zmagal v prihodnji vojni?

Le Umetne inteligence v službi družbenih saboterjev ali tistih, ki so nam zaupani, da nas branijo?
Trenutno nihče ne more reči.

Prepričani smo lahko o nečem: le dobro pripravljena država (še bolje, federacija držav), s prebivalstvom, opremljenim s sposobnostmi kritičnega mišljenja in poznavanjem digitalnih sredstev, se bo lahko soočila s temi izzivi.

Potrebno je, da umetne inteligence ne doživlja kot čudež ali grožnjo, ampak se nauči razumeti njene prednosti, potencial in težave, z daljnovidnim vodstvom in resnično pozornostjo do etičnih inovacij in tehnologija.

Moramo začeti od tu čim prej ...

Če je umetna inteligenca najboljši prijatelj naših otrok
Novogovor Facebooka (ali »umetna demenca«)
Fotogalerija, mize 1000 kvadratnih metrov dela Louisa Brauna