Zalla Potočar: Dober večer vsem, ki nas poslušate, v avtu, na sedežni, na delu, moje ime je Zalla Potočar, nahajamo se v studiu radia Evropejka in danes tu na svojih sedežih gostim prav posebne goste, s katerimi bom zdej zdej začela eno zelo zanimivo in razvneto temo, ki že dneve buri duhove po celotni državi, in sicer, nobeno drugo kot zloglasen eksperiment Soseska! Da, prav ste slišal, naš radio si je priboril prav posebno čast govorit o tem eksperimentu, ki je bil do zdej javnosti precej prikrit, in to ne s komerkoli, dragi moji, ne ne, ekskluzivno se pogovarjamo z ljudmi, ki so sedel v prvih vrstah tega skrivnostnega poskusa. Prav zares, dans so z nami štirje gostje, ki nam bodo ponudil svoj najbolj intimen vpogled v dogajanje. Pa da jih najprej spoznate, dragi poslušalci, jih bom prosila, da se mi kar po vrsti predstavjo, začenši z vami, ga. Kravsky. Ali naj vas raj kličem narednica?
Vesny Kravsky: Gospa je v redu. Sem Vesny Kravsky in sem bila vodja varnosti in nadzora v eksperimentu Soseska.
Zalla Potočar: To je moral bit nadvse burno doživetje, ga. Kravsky, pa se vrnemo nazaj k temu, kar nadaljujmo, da naši poslušalci slišjo, kdo ste.
Jan Jaka Bailey: Jan Jaka Bailey. Varuh za pravice predstavnikov UI.
Zalla Potočar: Ste tudi zlo zagret aktivist in protestnik, ane? Da, kar naprej.
Dr. Kaltmann: Hvala vam za besedo, ga. Potočar. Moje ime je dr. Leonov Kaltmann in sem bil del raziskovalne ekipe dr. Ann Breg v eksperimentu Soseska.
Zalla Potočar: Seveda, dr. Ann Breg in njena ekipa sta bli predstavnici južnoslovanskega raziskovalnega laboratorija, ki je bil le eden od mnogih, ki so sodeloval, ne, sej je v eksperiment vložla celotna država. Pa veste, že nekej časa me je zanimal, pa vas nisem uspela prej vprašat, zanima me namreč, kakšen doktor pa ste? Verjetno niste zdravnik, ane?
Dr. Kaltmann: Ja, prav imate, nisem zdravnik. Doktoriral sem iz fizike, nato pa še iz robotike na Univerzi Oxford, tako da bi se lahko reklo, da sem dvakratni doktor.
Zalla Potočar: Doktor na kvadrat, da! Tudi vaša poklicna pot je izredno zanimiva … joj, pa preden pozabm, morm predstavit še svojo zadnjo gostjo. Z nami je tudi dekle, ženska, ki je bla sama udeleženka eksperimenta, če lahka verjamete, js vem, da težko, to je Majorka Lukič, ki je z veseljem pristala na intervju. Pozdravite naše poslušalce, Majorka!
Majorka Lukić: Zdravo.
Zalla Potočar: Da, pa se vrnimo nazj k vam, dr. Kaltmann, vi ste še najbolj … središče tega dogajanja in bi bla izredno hvaležna, če bi nam na hitro pojasnil, da bodo naši dragi poslušalci seznanjeni, kak je zadeva potekala.
Dr. Kaltmann: Kajpak, ga. Potočar, ni problema. Najprej naj povem, da je eksperiment potekal tu, pri nas, v Sloveniji, kar je izjemno redek pojav, zato je celoten znanstveni kader zelo vesel nad tako presojo vlade in ponosen na naše delo v jugoslovanskem raziskovalnem laboratoriju. Eksperiment Soseska je torej potekal v soseski, sicer umetno zgrajeni v prazni hali tovarne Revoz, vendar vseeno soseski s hišami, trgovinami, bari in vse, kar spada zraven. V to sosesko smo znanstveniki naselili 300 prebivalcev, 240 prostovoljcev in 60 robotov najnovejših modelov. Nato smo tri tedne opazovali dogajanje v tej soseski.
Zalla Potočar: Kšni roboti pa so to bli? In kličte me Zalla, nisem nobena gospa.
Dr. Kaltmann: Prav, če tako želite, Zalla. Šlo je za štiri najnovejše in najnaprednejše modele robotov, ki so zgrajeni, programirani in dizajnirani, da bi izgledali, zveneli in se obnašali kar najbolj podobno ljudem. Modele se je razvijalo povsod po državi, a najpomembnejšo vlogo pri izdelavi so imele Britanija, Nemčija, Skandinavija ter Slovaškočeška regija. Jugoslovanski raziskovalni laboratorij je sodeloval s Slovaškočeško regijo, katere izdelek se je tudi izkazal kot najboljši v posnemanju človeških lastnosti v tem eksperimentu.
Zalla Potočar: Pa ne prehitevejmo do konca, najprej si mormo razjasnit še, kaj je bil sploh cilj eksperimenta, kaj so ti ljudje moral počet v tej soseski?
Dr. Kaltmann: To vprašanje bi prepustil kar kolegici, no, bivši kolegici, ge. Kravsky.
Zalla Potočar: Lahka tudi, če želite. No, ga. Kravsky, kaj so delal udeleženci eksperimenta?
Vesny Kravsky: Objektiva je bla prepoznati čim več robotov. Roboti in prostovoljci so živel skupaj, bili naključno razporejeni po stanovanjih in po službah. Prostovoljcem je bila obljubljena visoka denarna nagrada, če uspejo ugotoviti, kdo okoli njih je v resnici robot.
Zalla Potočar: Uau, prava detektivka! Košne pa so ble te denarne nagrade?
Vesny Kravsky: V začetku je blo vsakemu prostovoljcu obljubljenih 5 000 €. Ta znesek lahko zvišal, če so izdal ime osebe, ki je bla v resnici robot; za vsako pravilno uganjeno osebo so dobil dodatnih 5 000 €. Če so ime povedal narobe, se jim je znesek, ki so ga že imel, razpolovil.
Zalla Potočar: Oh, napeto, napeto! Torej, če bi js, na primer, sodelovala v eksperimentu in uganla eno ime robota pravilno, bi dobla potem 10 000 €, ane?
Vesny Kravsky: Res je.
Zalla Potočar: Če bi pa zgrešla potem eno ime, bi pa šla nazaj na 5 000, ane? In če bi spet zgrešla potem, bi šla na 2 500?
Vesny Kravsky: Res je.
Zalla Potočar: To je pa res velka uganka, da! Oh, js ne bi nič uganla, sej sploh ne vem, če bi poskušala, ko pa lahka tolko zgubiš.
Dr. Kaltmann: Je tveganje, ja, predvsem za tiste, ki so se javili zaradi denarne nagrade in večina se tudi je. Vendar se jim je pridružilo tudi nekaj filozofov, psihologov, sociologov in par zdravnikov, če se ne motim, ki jih je zanimala prepričljivost teh novih robotov.
Zalla Potočar: A tak? Si ne bi misnla. No, zdej, ko imamo predstavo o zadevi, me zanima mal več podrobnosti, sočnih podrobnosti. Kak je vse skupej izgledalo od znotraj, kak je blo živet v taki soseski? Moral je bit neverjetno zanimivo! Ga. Kravsky?
Vesny Kravsky: To bi vam lahk najbolje povedala ga. Lukić.
Zalla Potočar: Ah, seveda, lahka, če želite, Majorka.
Majorka Lukić: No, živel smo v hišah, ki so bile razdeljene v stanovanja. Delal smo v trgovinah. Ne vem.
Vesny Kravsky: Imel ste tudi prosti čas?
Majorka Lukić: Ja, velik, velik prostega časa. Večinoma smo se sprehajal naokol ali po parku. Ali pa se igral družabne igre in se pogovarjal.
Zalla Potočar: Joj, zveni prav zabavno! Kaj pa vi, ga. Kravsky? Tudi vi ste živel notri, ane?
Vesny Kravsky: Ne. Varovanje je bilo postavljeno zunaj soseske. Dovolj blizu za intervencijo, če bi prišlo do kakšnega incidenta.
Zalla Potočar: Nekajkrat je tudi prišlo, tak sem slišala, ane?
Vesny Kravsky: Nič preresnega. Soseska je bila izredno varna, ni res, ga. Lukić?
Zalla Potočar: Ga. Lukić?
Majorka Lukić: Ja. Bilo je zelo varno.
Dr. Kaltmann: Mogoče bi se lahko zdaj osredotočili še na rezultate, da lahko vključimo tudi g. Baileya, kaj pravite, Zalla?
Zalla Potočar: To je odlična ideja, dr. Kaltmann, hvala vam! Potem pa prosim, popeljte nas skos rezultate.
Dr. Kaltmann: Z veseljem. Kot sem že omenil, se je od štirih modelov za najboljšega izkazal slovaškočeški, torej naš; bil je daleč najbolj prepričljiv, saj so od 15 robotov prostovoljci odkrili le 2. Najslabše je šlo britanskemu modelu, odkrili so jih 14, skandinavski in nemški pa sta se izkazala približno enako sposobna, skandinavskih je bilo prijavljenih 7, nemških pa 9. Zavedamo pa se seveda, da so ti rezultati pridobljeni na zelo majhnem vzorcu in da bodo potrebni nadaljnji raziskave in eksperimenti.
Zalla Potočar: Majorka, ste v redu? Nekej bledi se zdite, bi morda potreboval kozarec vode …
Majorka Lukić: V redu sem.
Vesny Kravsky: Vroče je v studiu, nič takega ni, kajne, ga. Lukić?
Majorka Lukić: Ja. Vroče mi je. Nič mi ni, res.
Dr. Kaltmann: Kakor sem govoril, rezultati so vseskozi precej obetavni, če odštejemo Britance, kajpak.
Zalla Potočar: Da, da, seveda, prav res, odlični rezultati. Povejte mi, dr. Kaltmann, al pa morda vi, ga. Kravsky, kaj pa so rekli prostovoljci? Kak jim je uspelo odkrit te vsiljivce med njimi?
Dr. Kaltmann: Sodeč po intervjujih, ki smo jih opravili po koncu raziskave, so imeli zelo različne taktike odkrivanja neljudi. Moramo se zavedati, da udeleženci niso vedeli, kako prepoznati robote kot stroje, niso vedeli, kaj morajo iskati v osebi, kar bi nakazovalo na njihovo nečloveškost. Zapisali smo različne strategije. Ga. Kravsky, vi ste bili prisotni med intervjuji, kaj ste ujeli?
Vesny Kravsky: To, kar sem opazila že v soseski. Največ ljudi se je igralo miselne igrice: spraševal so se težka intelektualna ali etična vprašanja, ker so imel teorijo, da bodo roboti na taka vprašanja odgovoril hitreje, bolj natančno, z bolj strokovnim besediščem. Mislim, da so se tako roboti tudi izdal, ni tako?
Dr. Kaltmann: Ja, ga. Kravsky, tako so se izdali predvsem skandinavski roboti, medtem ko so se nemški izdajali s svojo motoriko.
Zalla Potočar: Kak to mislte, dr. Kaltmann, motoriko? So se gibal kot roboti iz kakih risank?
Dr. Kaltmann: To pa bi bilo malce preveč enostavno, Zalla.
Vesny Kravsky: Z gibanjem. Gibal so se normalno razen v nepričakovanih situacijah, na primer ko so se spotaknil ali ko jih je zadela žoga. Prehitro so se pobral, prehitro so prestregl žogo, take stvari. Tudi s fizično močjo so se izdajal, prelahko jim je bilo pobrat težke stvari, premočno so vrgl frizbi. Nemci so jih naredil predobre v športu in ljudje to opazijo.
Zalla Potočar: Bi rekla, da. Kaj pa otoški robot, rekli ste, da so jih odkrili skorej vse? To je pa bil polom!
Dr. Kaltmann: Ah, ja, britanski model. Pri njih je bil problem kombinacija vsega, vendar je bila večja težava nekaj drugega. Dve drugi točki. Kot prvo, osebnosti britanskih robotov so bile precej podobne: izredno vljudne, pa tudi kanček hladne in zadržane. Ta način interakcije s sočlovekom je v Britaniji, predvsem v Angliji, kar običajen, med Slovenci pa ne tako zelo, zato so jih prostovoljci z večinoma slovensko vzgojo lahko prepoznali. Britanci so imeli srečo, da je v Ljubljani angleška četrt, drugače bi po moje prijavili vse njihove primerke.
Vesny Kravsky: Ljudje so jih prijavljali kot »čajčkarje«, tako očitni so bili.
Dr. Kaltmann: Bili so malce prepolni sebe, kot so jim ustvarjali osebnost. Na žalost.
Zalla Potočar: Oh, bi pa se morali malce bolje potrudit!
Dr. Kaltmann: Tako je. Vendar to ni bil odločilni dejavnik, ki jih je izdajal.
Zalla Potočar: A da ne?
Dr. Kaltmann: Veliko več jih je bilo prijavljenih zaradi zaščitnega protokola, umeščenega v njihov disk – Britanci so jih namreč sprogramirali tako, da se je ob izkušenih izredno visokih ravneh bolečine v njihovih diskih izklopil senzor za bolečino.
Zalla Potočar: Torej … če je robote zlo bolelo, jih je kar naenkrat nehalo bolet?
Dr. Kaltmann: Tako nekako. Niso več čutili fizične bolečine. Še vedno so se je spominjali, torej je v majhni meri vseeno ostala, kot pri ljudeh, ki nehajo trpeti – spomin jim ostane.
Zalla Potočar: Ostali roboti niso imel to funkcijo, to varovalo?
Dr. Kaltmann: Ne, ravno zaradi prepričljivosti. Ljudje ne prenehajo kar naenkrat čutiti bolečino, torej bi bil to ogromen znak. Izkazalo se je, da je tudi bil.
Jan Jaka Bailey: Kako se je izkazalo?
Dr. Kaltmann: Prosim?
Jan Jaka Bailey: Razložite mi, kako ste prišli do tega spoznanja. Kako so prostovoljci ugotovili to pomanjkljivost v predstavnikih umetne inteligence?
Vesny Kravsky: Izvolite, g. Kaltmann.
Dr. Kaltmann: Ja, um, kajpak. Skupina prostovoljcev se je odločila preizkusiti to možnost in prišla do plodnih rezultatov.
Jan Jaka Bailey: Katero možnost?
Dr. Kaltmann: No, um …
Vesny Kravsky: Preizkušal so njihov prag bolečine.
Jan Jaka Bailey: Mučili so jih.
Vesny Kravsky: Če temu želite tako reč.
Jan Jaka Bailey: Ja, temu želim tako reč. Odvlekli so jih iz njihovih stanovanj, jih zaprli v neko prazno klet, jih privezali na stol in jih priključili na elektrode. In nato so skoznje spustil elektriko.
Vesny Kravsky: Vsi so preživeli.
Jan Jaka Bailey: No, a ni to lepo, da mate tko visoke standarde za svoje udeležence. Kr niso mučl le predstavnikov umetne inteligence, ku da to ni že dovolj, v procesu iskanja so moral strest tut kr neki ljudi. Pa sem mislu, da vam ne bo mar za predstavnike UI. Podcenjeval smo vas.
Zalla Potočar: No, g. Bailey, hvala vam za uvod moje naslednje vprašanje, ki bi blo v resnici naslovljeno na vas–
Jan Jaka Bailey: Kakšno je moje mnenje o bolečinskem varovalu? Že to, da morm odgovarjat na tako vprašanje, je ostudno.
Zalla Potočar: No, pa, pa vseeno, kak bi odgovoril–
Jan Jaka Bailey: Al se mi zdi praviln, da hoče robotska industrija v zakup vzet češkoslovaške predstavnike UI in razmišlja, da jim neb vgradila bolečinskega varovala, ki je v večini drugih regij zakonsko določeno zarad etičnih razlogov? Se mi zdi praviln, da taki šarlatani od znanstvenikov izvajajo poskuse, kjer predstavnikom namerno povzročajo bolečino, dab testiral njihov prag in da izvajajo take farse od poskusov, kot je Soseska?
Vesny Kravsky: Umirite svoje strasti, g. Bailey.
Jan Jaka Bailey: Al kej, boste pustil Martinu de Sevignyu, da me priveže na električni stol, tako kt ste mu pustil mučt vse tiste predstavnike UI in prostovoljce?
Vesny Kravsky: Sedite, g. Bailey.
Jan Jaka Bailey: In vi, ga. Lukić!? Boste samo mirno gledal, kako prirejajo ta spektakel in prikrivajo resnico, al boste kej rekl? Pa saj ste bli tam, zaboga!!
Dr. Kaltmann: G. Bailey, o tem smo že govorili, obljubili ste–
Jan Jaka Bailey: Obljubu sem, da se nbom razburu, kej? In vi ste obljubl predstavnikom UI in ljudem, da bo vaš mali poskus neboleč. Kurac, neboleč! Vsi so travmatizirani, in ljudje bodo sprevidel vaše sranje, pa naj ga še tako dobr skrivate in podkupujete in grozite udeležencem, prej al slej bo pršlo na dan! Pa tut ko bo, sej ljudem je mar sam za njih, briga njih za predstavnike UI, sam za svoje jim bo mar in poskus bo itak razglašen »sporen«, al še huj, »ponesrečen«, a ugotovitve bodo še vedn veljavne, ker zakaj the fuck ne, in pol se bo razmišljal, tako kot vi sadisti tukej razmišljate, da sej je dobra ideja ne met varoval, so tako bolj prepričljivi, sej tu je njihova naloga, da so prepričljivi, zakaj bi jim vsaj za mal olajšal življenje, kjer že tako al tako nimajo skor nobenih kurčevih pravic, če pa morjo biti podobni nam, da jih mamo lahk za vohune al neki! Kr očitno nihče ne vid problema v tem novem suženjstvu, tko ko vedn, če se ne gre za njih, they couldn´t give less of a fuck!
Vesny Kravsky: Ste končal?
Jan Jaka Bailey: Jebte se vi in vsi vaši sociopatski kolegi, Kravsky, pa vi tut, Kaltmann, pa vaša ničeva znanstvena etka, jebš cel sistem, k to dovol, fuck all of you and your fucking excuse of a science–
Vesny Kravsky: Pri zmerljivkah potegnem črto.
Zalla Potočar: Nismo še dal besede vam, Majorka. Bi radi še kaj dodal, povedal kakšno prigodo iz svojega časa v soseski?
Majorka Lukić: Ne. Mislim, da ne.
Vesny Kravsky: Kaj pravite na to, ga. Lukić, kar je povedal g. Bailey?
Majorka Lukić: Nič. Mislim, kaj pa naj?
Vesny Kravsky: Ali se g. Bailey moti?
Majorka Lukić: Ne.
Vesny Kravsky: Ali se g. Bailey moti, ga. Lukić?
Majorka Lukić: Res je, da se je dogajal, ampak ni bilo tako hudo, kot misl g. Bailey.
Vesny Kravsky: Torej niste na vse veke vekov travmatizirani zaradi dogodkov, ki ste jim bili priča v eksperimentu?
Majorka Lukić: Ne.
Dr. Kaltmann: Mogoče bi se vrnili nazaj na udeležence in njihove odzive na njihovo nalogo. Kot sem že omenil, nekateri so poskušali odkrivati robote na intelektualen, nekateri na … fizičen način. Zanimivo je tudi dejstvo, da se nekateri udeleženci, 10, 7 % ali 32 oseb, če se ne motim, niso dosti menili za njihovo nalogo in so le počakali do konca na izplačilo svojega denarja. Tega jim seveda nismo mogli preprečiti. Velika številka, 15 % udeležencev, pa je tudi izrazila precejšnje nelagodje glede svoje naloge, ki se jim je iz dneva v dan stopnjevalo. Poročali so, da se jim zdi dejstvo, da ne morejo ločevati med človekom in robotom, »naravnost grozljivo«.
Vesny Kravsky: Večkrat so tarnali. Vendar nič hujšega.
Dr. Kaltmann: Kajpak, ja, nihče ni bil v dejanski stiski. To odkritje seveda ni nič novega in se sklada z dosedanjimi psihološkimi dognanji, pa vseeno. Zanimivo je videti na lastne oči.
Vesny Kravsky: Imate še kakšno vprašanje?
Zalla Potočar: Da, v bistvu imam še eno, da. Um, Majorka, če smem, bi pa te vprašala, v kero skupino si spadala ti v eksperimentu? Kak si se soočla s problemom iskanja vsiljivcev?
Majorka Lukić: Bala sem se jih.
Zalla Potočar: Zakaj?
Majorka Lukić: Ne vem.
Vesny Kravsky: Mislim, da smo končal.
Dr. Kaltmann: V čast nam je bilo biti v vaši oddaji, Zalla. Hvala vam.
Zalla Potočar: Ne, ne, lepa hvala vam, da ste si vzel čas in nam vse lepo razložil.
Dr. Kaltmann: Nasvidenje.
Zalla Potočar: Nasvidenje, lepo pot!
Vesny Kravsky: Da ne pozabim: ko boste končal z montažo posnetka, nam ga pošljite, preden ga predvajate na radiu. V vednost.
Zalla Potočar: Seveda, moj tehnik vam bo vse poslal. Nasvidenje!
Tamás Ludovici: A boš nardila zaključek?
Zalla Potočar: Ugasni snemalnik, Tamás.
Mihaela Modic
Avtentični izdelek je nastal pri temu Umetna in transhumanizem. November 2020.
Comments