Poruke: IGF Srbija 2024

Treći Srpski forum o upravljanju internetom (IGF Srbija 2024) održan 11. septembra u Dorćol Platz-u u Beogradu. Domaćin foruma bila je Fondacija „Registar nacionalnog internet domena Srbije“ (RNIDS), a suorganizatori Ministarstvo informisanja i telekomunikacija, fondacija Diplo, Internet društvo Srbije ogranak Beograd i kompanija Grensi, uz podršku Kancelarije poverenika za zaštitu ravnopravnosti i fondacije Mreža za sajber bezbednost.

Pozdravne govore uputili Dejan Đukić, direktor RNIDS-a i Jakup Beriš, stalni predstavnik Programa UN za razvoj (UNDP) u Srbiji. Đuki je ukazao na značaj učešća tehničke zajednice u razgovorima o upravljanju internetom, na ulogu RNIDS-a kao domaćina lokalnog foruma i učešće predstavnika organizacije na regionalnim i globalnom IGF-u godinama unazad. G. Beriš je istakao važnost dva povezana globalna procesa – digitalne i zelene tranzicije. Iako se dve oblasti i dalje često posmatraju odvojeno, UNDP ih posmatra kao povezane puteve ka bržem održivom i humanom razvoju, te nastoji da ih u svom radu integriše u što većoj meri, fokusirajući se na tehnologije i podatke, veštine potrebne za njihovu primenu, kao i finansiranje takvih projekata.

Čengetaj Masango, koji se nalazi na čelu Sekretarijata Foruma za upravljanje internetom (IGF) Ujedinjenih nacija, imao je uvodno izlaganje u kom je objasnio da globalni digitalni pejzaž prolazi kroz značajne promene, uključujući događaje kao što su Samit budućnosti i Globalni digitalni sporazum (GDC). Samit budućnosti, predstavlja priliku za učvršćivanje multilateralne saradnje i rešavanje globalnih izazova poput klimatskih promena, nejednakosti i konflikata, dok GDC ima za cilj da uspostavi zajedničke principe za bezbednu, otvorenu i dostupnu digitalnu budućnost, podržava multiakterski model internet upravljanja i naglašava značaj učešća svih aktera, uključujući zemlje u razvoju. Podsetio je da lokalni IGF-ovi, uključujući srpski imaju važnu ulogu u promovisanju digitalne pismenosti i uključivanju lokalnih glasova u globalne razgovore o upravljanju internetom jer je razmena globalnog i nacionalnih IGF inicijativa je ključna za sprečavanje fragmentacije interneta i podsticanje saradnje.

Publike je imala prilike da u prostoru i onlajn prati i učestvuje u razgovorima na četiri panela, a diskusije su rezultirale značajnim zaključcima i preporukama. Tokom prvog, uvodnog panela napravljen je osvrt na početak globalnih debata o upravljanju internetom ranih 2000-ih pod okriljem UN i Svetskog samita o informacionom društvu (WSIS) što je rezultiralo formiranjem IGF-a, kao godišnjeg globalnog foruma. Imajući u vidu da je u toku proces preispitivanja svrhe i uloge IGF, bilo je reči o tome kako ovaj proces izgleda, kako širi globalni tehnološki i geopolitički procesi utiču na njega i šta nas čeka 2025. na konferenciji koja će odlučivati o upravljanju internetom na globalnom nivou.

Sajber bezbednost bila je tema sledećeg panela, a razmatrani su evropski i nacionalni procesi u ovoj oblasti. Napravljen je osvrt na prvu NIS direktivu EU, njen uticaj na procese u Srbiji. Ukazano je na probleme sa kojima su se evropski registri domena i pružaoci DNS usluga sreli prilikom izrade NIS2 direktive, kako su registri van EU bili uključeni u proces i kako je tekao rad u radnoj grupi za izradu nove verzije domaćeg Zakona o informacionoj bezbednosti. Ukazano je na to da će nacionalni zakon imati sve važne elemente NIS2 direktive, proširiti grupu firmi na koje se odnosi, pa će usklađivanje sa istim domaćim firma olakšati poslovanje na tržištu EU.

Nacrt Strategije razvoja VI u Republici Srbiji i perspektivama koje stvara za akademsku zajednicu, privredu i društvo u celini bila je tema sledećeg panela. Razmotreni su različiti projekti i akademski radovi koji imaju perspektivu da doprinesu unapređenju primene etičkih principa i zaštiti ljudskih prava. U zaključku panela postignuta je saglasnost da je multisektorska saradnja jedini način za uspostavljanje adekvatnog pravnog i strateškog okvira koji će štiti ljudska prava ne ometajući privredni razvoj.

Kvalifikovanje osvetničke pornografije kao krivičnog dela treba da bude prioritetan zadatak pred zakonodavcem, nedvosmislen je zaključak panela koji je bio posvećen digitalnom nasilju i dignitetu pojedinca u digitalnom okruženju. Tokom panela ukazano je na brojna gruba kršenja dostojanstva pojedinca na internetu, kao i na potrebu da mediji budu zamajac etične komunikacije, pre svega uklanjanjem senzacionalizma iz izveštavanja o rodno zasnovanom nasilju.

Sekciju programa bila je posvećena stapanju zelenog i digitalnog kao dvostruke tranzicije, a iz perspektive UNDP-a. Pet timova, tj, startapa pred publikom je predstavilo rešenja, tj. zelene i digitalne inovacije svojih firmi. Sekciju su vodili Ana Mitić-Radulović, analitičarka za cirkularnu ekonomiju, UNDP i Slobodan Marković, savetnik za digitalne tehnologije, UNDP.

Kulturni i akademski aspekat bio je takođe zastupljen na IGF Srbija 2024 kroz predavanje Vasilija Milnovića iz Univerzitetske biblioteke Svetozar Marković koji je govorio o digitalnoj humanistici i e-nauci, prikazao brojne međunarodne projekte na ovom polju u kojima je navedena ustanova učestvovala, i dao širu perspektivnu razvoja humanističkih nauka u digitalnom okruženju. Dodati deo

Panel: Globalni, regionalni i lokalni pogled na GDC, WSIS20+ i IGF20+ review

Panelisti:

• Olga Kyryliuk, Internews/SEEDIG
• Desiree Željka Milošević, Internet društvo Srbije (ISOC), ogranak Beograd
• Danko Jevtović, potpredsednik borda direktora ICANN-a

Moderator: Slobodan Marković, UNDP

Ključne poruke:

• Jedan globalni internet: Na globalnom nivou i dalje de fakto postoji konsenzus oko održavanja interneta kao jedinstvene globalne mreže, što je uspeh, naročito u kontekstu rastućih geopolitičkih tenzija koje prete da fragmentiraju internet na nacionalne sisteme pod kontrolom vlada. Vizija jedinstvenog globalnog interneta nije zagarantovana i zahteva svesnu i kontinuiranu podršku.
• Budućnost IGF-a: Iako postoji optimizam da će IGF nastaviti da igra važnu ulogu u globalnom dijalogu o upravljanju internetom, njegova budućnost zavisiće od tekućih konsultacija i podrške država članica UN. Uključivanje IGF-a u Globalni digitalni sporazum (GDC) ukazuje na volju da se ovaj forum očuva, mada će možda pretrpeti određene promene.
• Multistejkholderski pristup vs. multilateralne tenzije: Postoji stalna tenzija između vlada koje žele veću kontrolu nad internetom i onih koji se zalažu za višeakterski pristup koji uključuje civilno društvo, tehničke stručnjake i privatni sektor. Ova tenzija će nastaviti da oblikuje buduće rasprave na ovu temu.
• Veštačka inteligencija i regulacija: Diskusije o veštačkoj inteligenciji postaju centralne u debatama o upravljanju internetom. Kompleksnost VI tehnologija, njihov potencijal za manipulaciju i nedostatak adekvatnog nadzora istaknuti su kao glavni problemi. Regulatorni napori, poput EU akta o VI i inicijativa UN-a, korak su u pravom smeru, ali je potrebno pažljivo izbalansirati inovacije i etičke standarde.
• Koordinacija i izbegavanje fragmentacije: Velika je bojazan od moguće fragmentacije diskusija i procesa donošenja politika u različitim telima, što bi moglo dovesti do fragmentiranog interneta. Koordinacija, posebno u pripremama za pregled WSIS+20 i GDC, je ključna.

Optimizam koji su neki učesnici izrazili odražava veru u otpornost otvorenog interneta, ali je jasno da je potrebna opreznost jer novi izazovi, poput upravljanja veštačkom inteligencijom i zaštite privatnosti, dolaze u prvi plan.

Panel: NIS2 i Zakon o informacionoj bezbednosti. Šta privreda mora da zna

Panelisti:

• Milan Vojvodić, Ministarstvo informisanja i telekomunikacija
• Mina Tomić, A1
• Dejan Đukić,  RNIDS

Moderator: Dušan Stojičević, Gransy

Ključne tačke koje su istaknute uključuju:

• Odgovornost direktora i inspekcija. Pomenuto je da se direktori zaista mogu smatrati odgovornim prema zakonu, te da inspekcije u Srbiji, iako važne, trenutno nemaju dovoljne kapacitete. Planirano je povećanje broja inspektora kako bi se ispunili sve veći zahtevi zakona.
• NIS2 direktiva i bezbednost. NIS2 direktiva se smatra neophodnom zbog sve veće digitalizacije usluga, od bankarstva do državne administracije i kontinuirane pretnje koju sajber napadi predstavljaju. Direktiva nameće obaveze operatorima IKT sistema, koji će sada biti smatrani kritičnom infrastrukturom.
• Digitalni identitet i e-novčanik. Važnost razvijanja jedinstvenog sistema digitalnog identiteta odnosno identifikovanja, čime bi se olakšalo korišćenje e-administrativnih usluga i poboljšala bezbednost. Ovaj sistem bi bio usklađen sa evropskim propisima u vezi sa digitalnim novčanicima.
• Odgovor na incidente. Diskusija je naglasila potrebu za efikasnim sistemima odgovora na incidente kako bi se nosili sa bezbednosnim probojem, jer je potpuna zaštita od sajber pretnji nemoguća. Fokus bi trebalo da bude ne samo na sprečavanju napada, već i na ublažavanju njihovih posledica i osiguravanju brzog oporavka.
• Uloga privatnih kompanija. Veliki deo internet infrastrukture u Srbiji, kao i drugde, je u privatnom vlasništvu. Saradnja između države i privatnih subjekata je ključna za zaštitu kritične infrastrukture.
• Pravni okvir i budući razvoj. Aktuelni Zakon o informacionoj bezbednosti u Srbiji se razvija tako da obuhvati više sektora i osigura veću bezbednost IKT sistema. Budući razvoj može uključivati robusnije sisteme za verifikaciju digitalnog identiteta i poboljšane procedure za borbu protiv sajber kriminala.

Diskusija se završava sumiranjem poruka: važnost sistema digitalnog identiteta, jasan odgovor na bezbednosne incidente i neophodnost saradnje između države i privatnog sektora za zaštitu kritične infrastrukture.

Panel: Veštačka inteligencija u Srbiji – strategija i pogled u budućnost

Panelisti:

• Ana Toskić Cvetinović, Partneri Srbija
• Ljubiša Bojić, Istraživačko-razvojni institut za veštačku inteligenciju Srbije
• Uroš Poluga, Kancelarija za ITE

Moderator: Bogdan Banjac, Kancelarija poverenika za zaštitu ravnopravnosti

• Regulacija i strategija u pogledu VI.  Regulacija VI treba da se fokusira na očuvanje demokratije, vladavine prava i prava građana. Potrebno je obuhvatiti pitanja diskriminacije i zaštite podataka, kao i ulogu različitih stejkholdera, uključujući osobe sa invaliditetom. Međunarodne konvencije i smernice se mogu koristiti kao modela za unapređenje nacionalnih strategija i zakona o AI. Srbija ima priliku da se istakne kroz globalno AI partnerstvo i da podeli primere dobrih praksi.
• Monitoring i evaluacija. Neophodno je uvesti sistemski monitoring AI u javnom sektoru, posebno u oblastima kao što su javne nabavke i obrazovanje. Praćenje treba da obuhvati zaštitu podataka i sprečavanje negativnih efekata tehnologije. Postoje zabrinutosti zbog upotrebe tehnologija kao što su kamere za prepoznavanje lica u školama, koje se koriste bez priznanja njihove prave svrhe. Potrebno je sistemsko odgovaranje na pojavu deep fake sadržaja i podizanje svesti o rizicima. Osnivanje AI opservatorije može pomoći u kontinuiranom praćenju i evaluaciji AI sistema. Primeri iz drugih zemalja, kao što je Španija, mogu poslužiti kao model za ovu inicijativu.
• Multidisciplinarni pristup. Uključivanje različitih naučnih disciplina je ključno za temeljno istraživanje AI. Analize osobina AI sistema i njihovog uticaja na korisnike trebaju biti standardizovane i strukturisane. Evaluacija kako AI utiče na emotivno stanje korisnika je važna za razvoj pozitivnih i korisnih AI sistema.
• Edukacija i svest o rizicima. Neophodno je podizati svest o rizicima povezanim sa AI, uključujući deep fake tehnologije i druge potencijalne opasnosti. Obrazovne inicijative i javni dijalog su ključni za prevenciju zloupotreba. Postavlja se pitanje kako AI može uticati na empatiju i međuljudske odnose. Potrebno je razmišljati o tome kako AI može smanjiti ljudsku empatiju i izazvati depresiju.

Generalni zaključak: Razvijanje sveobuhvatnih strategija i zakona koji obuhvataju sve aspekte upotrebe AI, uz multidisciplinarni pristup, ključni su za etičku i sigurnu primenu tehnologije. Edukacija i podizanje svesti o potencijalnim negativnim posledicama AI su neophodni za očuvanje ljudskosti i empatije u tehnološkom svetu.

Panel: Digitalna prava i slobode. Dignitet pojedinca u digitalnom dobu

Panelistkinje:

• Brankica Janković, Poverenica za zaštitu ravnopravnosti
• Anđela Milivojević, istraživačka novinarka
• Branislava Antović Aleksić, BDW Magazin

Moderatorka: Kruna Savović, Advokatska kancelarija Savović

• Ženska perspektiva digitalnog nasilja. Nasilje na internetu je sveprisutno, posebno za žene i novinarke. Internet omogućava stalno uznemiravanje 24/7, što je mnogo teže izbeći nego fizičko nasilje. Ukazano je na visok nivo mizoginije i omalovažavanja žena u digitalnom prostoru, posebno onih koje su uticajne u novim industrijama kao što su digitalni marketing i mediji. Žene su često meta napada zbog svoje pojave i uspeha, a ovo nasilje je posebno izraženo zbog anonimnosti koju internet navodno pruža.  Cilj je podizanje svesti među donosiocima odluka da se ozbiljnije bave ovim problemom.
• „Osvetnička pornografija“ i patrijarhalne strukture. Istaknuto je da je jedan od najvećih problema u Srbiji takozvana „osvetnička pornografija“ – neovlašćeno deljenje intimnih fotografija i video sadržaja. Postoji patrijarhalni narativ koji krivi žene za to što su se fotografisale, dok su počinioci ovog digitalnog nasilja retko sankcionisani. U nekim zemljama regiona poput Hrvatske i Crne Gore ovaj oblik nasilja je već inkriminisan, dok Srbija tek treba da donese odgovarajuće zakonske promene.
• Anonimnost i platforma Telegram. Posebna pažnja je posvećena problemu anonimnosti na aplikaciji Telegram, gde su formirane grupe sa desetinama hiljada članova koji dele eksplicitne sadržaje bez pristanka. Ova „anonimnost“ (iako je počiniocima zapravo moguće ući u trag) omogućava počiniocima da osećaju sigurnost u svojim postupcima, a žrtve ostaju bez zaštite jer zakon ne prepoznaje ove akcije kao krivična dela.
• Preporuke i pravna rešenja. Edukacija je ključna u borbi protiv digitalnog nasilja,  neophodne su zakonske promene koje bi inkriminisale dela poput „osvetničke pornografije“. Postoje tehnologije koje mogu pomoći u zaštiti intimnih fotografija, ali je potrebno veće angažovanje društva i pravosuđa. Takođe, istaknuto je da mediji moraju izbegavati senzacionalizam kada izveštavaju o ovim temama i fokusirati se na pravu prirodu problema.

Na kraju panela istaknuta je važnost solidarnosti, edukacije i javne svesti o ovim temama. Potrebno je nastaviti rad na unapređenju zakona i mehanizama za zaštitu ljudskih prava u digitalnom prostoru, jer će izazovi i zloupotrebe u ovoj oblasti nastaviti da se razvijaju.

Srpski forum o upravljanju internetom (IGF Srbija), održava se treći put pod ovim nazivom i deo je mreže nacionalnih i regionalnih inicijativa globalnog IGF-a Ujedinjenih nacija. Pokrenut je u multiakterskom duhu IGF-a, kao zajednička inicijativa nekoliko organizacija i institucija.