Apple virðist vera með litla siðferðiskennd, þegar að slíkum persónunjósnum kemur.
Marinó G. Njálsson skrifar:
Var á ráðstefnu um persónuvernd í síðustu viku. Flott ráðstefna með mörgum áhugaverðum erindum.
Lítið fer á milli mála, að næstu árin verður slagur á milli friðhelgi og persónuverndar annars vegar og gervigreindar hins vegar. Gervigreind er að verða sífellt fullkomnari og er framtíðarsýn hennar nánast óhugnanleg, a.m.k. frá friðhelgissjónarhorninu. Ég hef ekki svo miklar áhyggjur af persónuverndinni, þegar kemur að gervigreindinni. Gervigreindin er hins vegar notuð til að brjóta á friðhelgi einstaklingsins.
…snjallsíminn er troðfullur af smáforritum, sem safna upplýsingum án þess að láta vita…
Svo ég skýri þetta aðeins, þá safnar ótrúlegur fjöldi fyrirtækja upplýsingum um allt og alla. Vissulega erum við stundum spurð, en þó svo að við neitum á einum stað, þá er læðst aftan að okkur á öðrum stað. Leyfi ég mér að fullyrða, að ekki eitt einasta fyrirtæki fari fullkomlega að ákvæðum GDPR (General Data Protection Regulation) eða CCPA (California Consumer Protection Act), þegar kemur að því að fá leyfi til að safna þeim upplýsingum sem er safnað. Íslenskir vefmiðlar eru flestir með málamyndaviðvaranir, en engin leið er að stjórna því hvaða upplýsingum er safnað. Ég fer reglulega inn á breska vefmiðla og þar er stundum hægt að ákveða hverjir mega safna upplýsingum og hverjir ekki, en þegar fara þarf í gegn um þetta í hvert einasta skipti sem farið er inn á vefmiðilinn og skoða þarf mörg hundruð atriði, þá er vart hægt að segja að um val sé að ræða. Sem sagt úti um allt safnast upp upplýsingar um notendur sem síðan eru notaðar til að útbúa persónugreiningar (profiling). Og maður þarf ekki að fara inn á vefsíður, því snjallsíminn er troðfullur af smáforritum, sem safna upplýsingum án þess að láta vita og þó svo að slökkt sé á forritinu. Apple virðist vera með litla siðferðiskennd, þegar að slíkum persónunjósnum kemur og hlustar á allt sem gerist í umhverfi iPhone síma ÖLLUM stundum.
Þegar búið er að safna gögnunum og framkvæma greininguna, þá hefst innrásin í einkalíf fólks. Eins og versta blaðurskjóða með bullandi meðvirkni fer gervigreindin að henda í okkur alls konar óumbeðnum upplýsingum, oftast í formi auglýsinga. Prófið að segja Aþena nokkrum sinnum í kringum snjallsímann ykkar, án þess að slá orðið inn, og viti menn innan nokkurra klukkutíma fara að birtast auglýsingar um hótel í Aþenu, flug til borgarinnar, áhugaverða staði eða bara veðrið í höfuðborg Grikklands. Ef ykkur verður á að vakna upp um miðja nótt með dúndrandi hausverk og þið stynjið upp „ég er að drepast í höfðinu“, þá hlustar Apple eða eitthvert smáforrit og um morguninn gætu þið fengið einhverja ráðgjöf um verkjalyf sem gagnast við hausverknum.
Facebook, Google, Apple myndu ná til okkar eftir hinum ólíklegustu leiðum með oft ákaflega misskildum auglýsingum.
Svo virðist sem lítið sé við þessu að gera, nema fjarlægja njósnaforritin af snjallsímanum, en þá er ekki einu sinni víst að njósnunum linni. Stundum eru forritin nefnilega ekki fjarlægð, heldur bara gerð óvirk og ósýnileg gagnvart notandanum. Þau eru enn inni á símanum og þau stunda enn þá iðju að hlusta á allt í umhverfinu.
Ég spurði gervigreindarsérfræðing á ráðstefnunni, hvort þetta væri ekki gróft brot á friðhelgi einkalífs. Hann hélt nú ekki. Gervigreindin væri bylting og gerði líf fólks svo miklu betra. Hún kæmi með ábendingar og gæti bjargað mannslífum. (Þetta með að bjarga mannslífum er helsta trikkið. Gleymist alveg að gervigreindin getur líka eyðilagt líf.) Þegar ég spurði hvort það væri hlutverk gervigreindarinnar, að sýna endalausa meðvirkni með því að svara spurningum sem enginn hafði beðið um svar við, þá stóð ekki á svarinu. Spurningar hefðu hvort eð er komið upp fyrr eða síðar!
Samkvæmt 46. gr. laga nr. 81/2003, fjarskiptalög, þá eru óumbeðin fjarskipti óheimil. Við þekkjum þetta í gegn um að ekki má senda óumbeðna tölvupósta, sms-skeyti eða hringja í þá sem eru x merktir hjá Þjóðskrá. Lögin eru frá 2003 og þá var gervigreindin ekki komin á það stig sem hún er í dag og því var ekki gert ráð fyrir í lögunum, að hin óumbeðnu fjarskipti færu um vefinn. Að Facebook, Google, Apple myndu ná til okkar eftir hinum ólíklegustu leiðum með oft ákaflega misskildum auglýsingum, sem birtast þar sem við vöfrum um netið eða flettum í gegn um færslur eins og þessa á Facebook síðunni okkar. Ég held hins vegar að lögin nái til svona háttsemi og 46. gr. (og raunar sú 47. líka) leggi blátt bann við þessari háttsemi. (47. gr. leggur blátt bann við hlustun, upptöku, geymslu eða hlerun fjarskipta nema þetta fari fram með samþykki notanda. Hún nær vissulega, tæknilega séð, ekki til þess að hlusta, taka upp, geyma eða hlera samskipti sem eiga sér stað milli aðila sem eru ekki að nota fjarskipta, heldur eru einfaldlega í sama rými, né heldur það sem við segjum hálf vakandi eftir að hafa vaknað upp með hausverk. Hins vegar er nokkuð ljóst að fjarskiptabúnaður er notaður við þetta og því flokkast þetta örugglega undir fjarskipti.)
Þó svo að notendaskilmálar smáforrita gefi forritinu leyfi til að nýta hljóðnema síma, þá er ég nokkuð viss um, að allir túlka það sem svo, að forritið megi eingöngu nota hljóðnemann til að opna fyrir samskipti, þegar notandinn er að nota forritið til samskipta, t.d. Skype eða Messager. Fáir hafa hins vegar það hugmyndaflug, að með því að samþykja skilmálana og leyfa forritinu að nota hljóðnemann, þá lítur fyrirtækið sem bjó til smáforritið svo á, að hljóðnemann megi nota ÖLLUM stundum og til að safna ÖLLUM hljóðum í kringum símann. Ég læt fólki eftir að velta fyrir sér hver slík hljóð geta verið. Ég held að fæstir hafi gert sér grein fyrir hversu víðtæk þessi heimild er. Ég held að fæstir átti sig á því, hve miklum upplýsingum er búið að safna um viðkomandi, því ef fólk er svona eins og ég, þá fer síminn allt þar sem ég fer!
…leggja algjört bann við öllum óumbeðnum rafrænum fjarskiptum nema notandinn hafi veitt skýra heimild fyrir fjarskiptunum.
Ég vil skora á Alþingi að skerpa á ákvæðum 46. og 47. gr. laga nr. 81/2003 og leggja algjört bann við öllum óumbeðnum rafrænum fjarskiptum nema notandinn hafi veitt skýra heimild fyrir fjarskiptunum og sú heimild/samþykkt uppfylli ákvæði GDPR um slíkt samþykki. (Rétt er að benda á, að samkvæmt GDPR má ekki „grafa“ ákvæði um slíkt samþykki inni í löngum notendaskilmálum, þar sem notandi verður að samþykja allan pakkann í einu lagi. Gefa verður kost á að samþykkja (eða hafna) hvert atriði fyrir sig. Auk þess skal persónuvernd vera sjálfgefin, þ.e. ekki má stilla atriði sjálfgefið á samþykkt, heldur skulu þau annað hvort ekki hafa neina stillingu setta eða vera með höfnun sem sjálfgefna stillingu.) Einnig að 47. gr. fjarskiptalaga tryggi ófrávíkjanlegt bann við leyndum upptökum, eins og lýst er að ofan. Notendur fjarskiptabúnaðar (hver sem hann er) verða að vera öruggir um, að lokað sé fyrir hljóðnema og myndavélar búnaðar nema notandinn virki þennan búnað, þá oftast í stutta stund meðan samtal/samskipti eiga sér stað. (Tekið skal fram, að ég hef þegar sent Póst- og fjarskiptastofnun erindi sama eðlis.)
Skrifin birtust fyrst á Facebooksíðu Marinós.