Connect with us

Moderna vremena

AI se neće smjeti koristiti za društveno vrednovanje

Objavljeno

/

Odbori Europskog parlamenta podržali su u utorak Akt o umjetnoj inteligenciji koji će omogućiti razvoj tog polja, ali i zaštititi korisnike od uporabe AI-ja “neprihvatljivog rizika” poput društvenog vrednovanja. 

Na sjednici Odbora za unutarnje tržište zaštitu potrošača (IMCO) i Odbora za građanske slobode, pravosuđe i unutarnje poslove (LIBE) podržan je dogovor s državama članicama EU-a o Aktu o umjetnoj inteligenciji. Dogovor još moraju formalno potvrditi Europski parlament i Vijeće EU-a.

Open AI zaintrigirao je cijeli svijet kad je u studenome 2022. lansirao ChatGPT. Google mu je u prosincu 2023. uzvratio lansiranjem Geminija, svog najnaprednijeg AI modela. No uz razvoj umjetne inteligencije, dolaze i nove prijetnje pa će se ovim Aktom o umjetnoj inteligenciji nastojati uspostaviti balans između minimiziranja prijetnji i poticanja razvoja AI-ja. 

“Nakon trijaloga, danas smo korak bliže ka donošenju novih i jedinstvenih pravila za sustave umjetne inteligencije. Uspostavom jasnog okvira želimo iskoristiti sve mogućnosti, ali i minimizirati rizike. Europi su potrebni okvir povjerenja i pravna sigurnost, jasno uz inovacije i konkurentnost – koje Aktom o umjetnoj inteligenciji želimo potaknuti”, ocijenio je eurozastupnik Karlo Ressler (HDZ/EPP), potpredsjednik posebnog Odbora EP-a za umjetnu inteligenciju u digitalnom dobu (AIDA), priopćio je njegov ured u utorak. 

Prema istraživanju Hrvatske pošte, Veleučilišta Effectus i tvrtke Alca Zagreb iz rujna, 60 posto Hrvata navelo je da im je prva asocijacija na AI “neizvjesnost i zabrinutost”, dok je za njih 30 posto to “korisnost i ushićenje”. Uz to, općeniti stav Hrvata prema umjetnoj inteligenciji je nešto više negativan nego pozitivan, ali još uvijek ima dosta neopredijeljenih. 

“Neprihvatljivi rizici” umjetne inteligencije

Postignutim dogovorom zabranit će se umjetna inteligencija koja pojedince društveno vrednuje i razvrstava u određene kategorije – po rodu, rodnom identitetu, rasi, etničkom podrijetlu, migracijskom statusu, državljanstvu, političkom uvjerenju, seksualnoj orijentaciji, vjeroispovijesti i slično. 

Pod umjetnom inteligencijom neprihvatljivog rizika smatraju se pohranjivanje fotografija prikaza lica s interneta ili snimaka CCTV-a snimaka, prepoznavanje emocija na radnom mjestu i u školama, društveno bodovanje, prediktivno policijsko djelovanje isključivo na profiliranju osobe. Građani će moći podnositi pritužbe na sustave AI-ja koji ugrožavaju njihova prava. 

“Danas smo izglasali prvi europski zakon o umjetnoj inteligenciji kojim su sustavi umjetne inteligencije podijeljeni po kategorijama rizika koji predstavljaju za građane. Zakon tako razlikuje sustave neprihvatljivog rizika, koji su zabranjeni, zatim visokog rizika, ograničenog rizika i minimalnog rizika kod kojih nema nikakvih posebnih zakonskih ograničenja. S tim u vezi kao visokorizičan sustav zabranili smo koncept društvenog vrednovanja kojim se pomoću algoritama može prikupljati širok spektar podataka o građanima i njihovom ponašanju”, istaknuo je u priopćenju hrvatski eurozastupnik Tomislav Sokol (HDZ/EPP), potpredsjednik IMCO-a. 

No postojat će izuzeci od pravila. Uporaba biometrijskih podataka bit će dozvoljena u nekim situacijama pod određenim uvjetima. RBI (Remote biometric identification) bit će moguć uz vremensko i geografsko ograničenje te prethodno sudsko odobrenje. Koristit će se u potrazi za nestalima i za sprječavanje terorističkih napada. A visokorizični sustavi, s ogromnim utjecajem na zdravstvo, obrazovanje, promet, migracije i upravljanje demokratskim procesima, morat će prolaziti sustav procjene i ublažavanja rizika, omogućiti nadležnim tijelima detaljnu dokumentaciju o značajkama i svrsi sustava, između ostaloga.  

“Umjetna inteligencija ima ogroman potencijal u zdravstvu ili prometu jer se njome može preciznije dijagnosticirati rak ili bolje upravljati gužvama u prometu. Zato smo propisali da takvi sustavi koji su visokorizični uvijek moraju biti pod ljudskom kontrolom. Umjetne inteligencije ne treba se bojati, već njezino korištenje treba kvalitetno urediti što smo danas i učinili”, dodao je Sokol.

Temeljni modeli kao što su ChatGPT i sustavi umjetne inteligencije opće namjene (GPAI) morat će biti u skladu s obvezama transparentnosti prije nego što se stave na tržište. To uključuje izradu tehničke dokumentacije, usklađivanje sa zakonom EU-a o autorskim pravima i širenje detaljnih sažetaka o sadržaju koji se koristi za obuku.

Osim toga, umjetne ili manipulirane fotografije, audio ili video sadržaji (“deepfakes”) morat će biti jasno naznačeni kao takvi.

Hina

In-Portal vlasništvo je svih onih kojima je bolji život svih osoba s invaliditetom, kako u Hrvatskoj tako i u svijetu, primarna briga.

Moderna vremena

Upozorenje roditeljima da zbog AI-a ne objavljuju fotografije djece

Objavljeno

/

Napisao/la:

Na fotografiji je dijete koje piše olovkom na papiru. Papir sadrži zadatke s tiskanim slovima i slikama, što ukazuje na to da bi moglo biti riječ o domaćoj zadaći ili vježbanju pisanja. Dijete drži crveno-bijelu olovku u ruci kojom piše ili crta. Na stolu se nalazi još nekoliko šarenih olovaka. Ova slika je zanimljiva jer prikazuje proces učenja i razvoja djetetovih vještina pisanja.
Foto: Pixabay
Piše: Bernard Čavar

Britanska agencija za borbu protiv kriminala (NCA) upozorila je roditelje da ne objavljuju fotografije djece na internetu jer ih se pomoću umjetne inteligencije (AI) može pretvoriti u pornografski materijal

Poslušaj članak

NCA i Zaklada za nadzor interneta (IWF) objavili su nove smjernice za zaštitu djece od sve češće pojave korištenja AI-ja za izradu pedofilskog sadržaja.

Do toga je došlo nakon što je škola u Britaniji bila meta kriminalnih skupina koje su iskoristile javno dostupne fotografije učenika da bi pomoću AI-a stvorile pornografski materijal i zatim prijetile da će ih objaviti ako im se ne plati.

Analitičari IWF-a su u 2025. otkrili 3400 video snimki generiranih AI-om, golemi rast u odnosu na 13 u 2024.

– Prijetnja je uznemirujuća – rekao je izvršni direktor IWF-a Kerry Smith. 

– Ne govorimo o tome da fotografije djece ne bi trebalo dijeliti s ljudima koje volite i kojima vjerujete, nego želimo da ljudi budu svjesni potencijalnih rizika i da donose informirane odluke imajući na umu sve činjenice.

Smith kaže da posljednice takvih fotografija mogu biti razorne.

– Šteta je vrlo stvarna. I potencijal za dugoročne posljedice je nešto što vjerujem svaki roditelj želi spriječiti.

Pedofilski sadržaj s napretkom tehnologije postaje sve rašireniji i realističniji, upozorile su organizacije.

Osim toga, fotografije i video snimke sve su nasilnije, pa je tako 65 posto od 3443 umjetno generiranih videa u 2025. klasificirano u kategoriju A prema britanskom kaznenom zakonu, što znači da prikazuju najteža kaznena djela poput silovanja i seksualnog mučenja.

Nove smjernice savjetuju roditeljima da na društvenim mrežama otvore ‘prijateljske’ grupe u kojima dijele fotografije svoje djece ili da prilagode postavke o privatnosti kako bi ih mogli vidjeti samo ograničeni broj ljudi.

IWF je također pozvao tehnološke kompanije da dobro zaštite svoje modele AI-a prije nego što ih ponude korisnicima kako ih kriminalci ne bi mogli zloupotrijebiti za proizvodnju pedofilskog sadržaja.

Nastavite čitati

Moderna vremena

SIADUS spaja studente s invaliditetom i njihove asistente

Objavljeno

/

Napisao/la:

Snimka zaslona videokonferencije tijekom predstavljanja projekta SIADUS (System of Inclusive Assistance for Disabled University Students). Na glavnom dijelu zaslona prikazana je uvodna prezentacija projekta, dok su sa strane vidljivi sudionici online sastanka u videopozivu.
Foto: posi.hr

Studenti Ekonomskog fakulteta u Zagrebu Leon Benković i Fran Krasnić predstavili su 8. srpnja 2026. godine pravobranitelju za osobe s invaliditetom Dariju Jurišiću i savjetnici pravobranitelja za osobe s invaliditetom Lidiji Pongrac digitalnu platformu čiji su suosnivači – SIADUS

Poslušaj članak

Platforma SIADUS inovativna je digitalna platforma koja je osmišljena s ciljem rješavanja specifičnih izazova s kojima se studenti s invaliditetom svakodnevno susreću u akademskom okruženju, poput nedostatka sustavne podrške, administrativnih prepreka te osjećaja izolacije i stigmatizacije.

Upravo osobno iskustvo studenta s invaliditetom koji je tijekom prethodnog obrazovanja imao organiziranu podršku pomoćnika u nastavi te individualizirani pristup, a koji dolaskom u svijet studiranja nije imao tako strukturiranu podršku, potaknulo ih je na razmišljanje i kreiranje ove platforme.

Cilj im je bio da svim budućim studentima s invaliditetom visoko obrazovanje bude pristupačno i prilagođeno, što znači i postojanje podrške u osiguravanju potrebne podrške, kako osobne asistencije tako i socijalizacije i uključivanja.

Platforma SIADUS definira tri različite korisničke uloge.

Prva skupina korisnika su studenti s invaliditetom koji u sustav unose svoje konkretne zahtjeve za asistencijom, raspored i osobne preferencije.

Drugu skupinu čine studenti asistenti koji u sustav unose svoje osobne preferencije, vlastite sposobnosti, raspored i sl..

Treća ključna uloga je koordinator sustava, djelatnik visokog učilišta – koordinator studenata s invaliditetom koji nadzire cjelokupni proces, potvrđuje i prilagođava algoritamski generirana uparivanja, komunicira s korisnicima te prati evaluaciju i zadovoljstvo uslugom putem sustava izvještavanja i ocjenjivanja.

Glavni koncept sustava SIADUS temelji se na povezivanju studenata s invaliditetom s kolegama studentima asistentima koji su voljni i spremni pružiti odgovarajuću podršku tijekom studija.

Sustav koristi algoritamsko uparivanje korisnika temeljem jasno definiranih kriterija kao što su specifične potrebe studenata s invaliditetom (primjerice podrška pri kretanju, rješavanju administrativnih procedura ili dohvaćanju predmeta), preferencije u pogledu vremena asistencije te ostalih osobnih kriterija.

Ova automatizacija znatno smanjuje administrativni napor fakulteta i omogućuje transparentno praćenje kvalitete asistencije, dok studenti ostvaruju pristup personaliziranoj i brzoj podršci prilagođenoj njihovim potrebama.

Fran i Leon ističu da studenti asistenti, osim što pružaju ključnu potporu svojim kolegama s invaliditetom, od ovog sustava također ostvaruju značajne koristi. Aktivnim sudjelovanjem u sustavu SIADUS studenti asistenti stječu pravo na ECTS bodove, stječu iskustvo volontiranja koje može imati utjecaja na njihov daljnji život i zapošljavanje budući da razvijaju komunikacijske vještine, empatiju, društvenu odgovornost i spremnost na timski rad.

Bez obzira na veličinu institucije ili specifičnosti rasporeda, sustav SIADUS može se jednostavno integrirati i prilagoditi svakom fakultetu. Za fakultete prihvaćanje sustava SIADUS donosi višestruke koristi. Osim što olakšava administrativno upravljanje asistencijom, implementacija ovog sustava omogućuje fakultetima pristup raznim mogućnostima dodatnog financiranja kroz EU fondove i programe koji promiču inkluziju, inovacije i socijalnu koheziju.

Rano usvajanje ovog modela također predstavlja jedinstvenu priliku da se institucija etablira kao predvodnik inkluzivnih praksi u Europi, što može značajno doprinijeti međunarodnoj prepoznatljivosti i akademskom ugledu institucije. Transparentnost i kontinuirano praćenje zadovoljstva korisnika omogućuju stalnu optimizaciju sustava, što jamči dugoročno održivu i kvalitetnu asistenciju.

SIADUS je u akademskoj godini 2025./2026. bio u fazi pilot-projekta koji se provodio na Ekonomskom fakultetu u Zagrebu, zbog čega su dobili i posebne nagrade: Rektorovu nagradu, zahvalnicu Ekonomskog fakulteta te partnerstvo sa ZICER-om.

Nakon pilotiranja prikupljaju se i evaluiraju korisnička iskustva te provodi tehnička optimizacija sustava kao preduvjet za daljnje širenje i, u konačnici, implementaciju na ostale zainteresirane visokoobrazovne ustanove.

Kako sami ističu, kao prirodan nastavak SIADUS platforme razvija se dodatni modul pod internim nazivom Crni labud, usmjeren na lakšu tranziciju studenata s invaliditetom iz visokoobrazovnog sustava na tržište rada. Modul je osmišljen kao most između visokoobrazovnih institucija i poslodavaca te kao temelj za stvaranje dugoročnog sustava podrške osobama s invaliditetom, od upisa na fakultet, kroz studij, pa sve do zapošljavanja.

Iz perspektive svojeg rada i nadležnosti, Pravobranitelj za osobe s invaliditetom smatra da ova platforma može olakšati kako studentima s invaliditetom u dobivanju potrebne podrške i razumne prilagodbe koje znače jednake uvjete obrazovanja, tako i nastavnicima koji su u  obvezi osiguravanja razumne prilagodbe.

Izvor: posi.hr

Nastavite čitati

Medicina

Nova genska terapija za stariju djecu i odrasle sa SMA

Objavljeno

/

Napisao/la:

Na fotografiji je prikazan 3D prikaz molekule DNK u plavim tonovima na tamnoj pozadini. U središtu slike dominira dvostruka uzvojnica DNK, jasno istaknuta i detaljno prikazana, dok se u pozadini vide dodatni, zamućeni lanci DNK koji stvaraju dojam dubine. Vizual ima moderan, znanstveni karakter te simbolizira genetiku, nasljeđivanje, molekularnu biologiju, genska istraživanja i razvoj novih terapija. Zbog takve simbolike fotografija je prikladna kao ilustracija tema poput genske terapije, rijetkih genetskih bolesti, medicinskih istraživanja i biotehnologije.
Foto: Pixabay

Novo europsko odobrenje predstavlja važan iskorak za osobe koje žive sa spinalnom mišićnom atrofijom jer prvi put otvara mogućnost da i starija djeca, adolescenti i odrasli sa SMA u budućnosti dobiju pristup ovom terapijskom pristupu i u Hrvatskoj

Poslušaj članak

Europska komisija odobrila je novu gensku terapiju za liječenje djece starije od dvije godine, adolescenata i odraslih osoba koje žive s 5q spinalnom mišićnom atrofijom (SMA). Riječ je o prvoj jednokratnoj genskoj nadomjesnoj terapiji u Europskoj uniji odobrenoj za ovu široku skupinu oboljelih. Dosad je takav terapijski pristup bio dostupan isključivo djeci do dvije godine.

Novo europsko odobrenje predstavlja važan iskorak za osobe koje žive sa spinalnom mišićnom atrofijom jer prvi put otvara mogućnost da i starija djeca, adolescenti i odrasli sa SMA u budućnosti dobiju pristup ovom terapijskom pristupu i u Hrvatskoj.

– Odluka Europske komisije važna je vijest za cijelu zajednicu osoba koje žive sa SMA – u Hrvatskoj ih je više od 120. Svako novo odobreno liječenje znači novu priliku za dio oboljelih i njihove obitelji te potvrđuje koliko brzo napreduje razvoj terapija za rijetke bolesti. Sada očekujemo da se ovaj europski iskorak što prije pretoči u stvarnu dostupnost terapije i hrvatskim pacijentima, uz transparentan i pravodoban postupak procjene te u skladu s medicinskim kriterijima – poručuju iz Hrvatskog saveza za rijetke bolesti.

Kao nacionalna krovna organizacija koja okuplja udruge osoba s rijetkim bolestima, Hrvatski savez za rijetke bolesti pratit će daljnji postupak uvođenja nove terapijske mogućnosti u Hrvatskoj te nastaviti zastupati interese osoba koje žive sa spinalnom mišićnom atrofijom. Savez će svojim članovima i zainteresiranim obiteljima pružati pravodobne i provjerene informacije kako bi, u suradnji sa svojim liječnicima, mogli donositi informirane odluke o liječenju.

Spinalna mišićna atrofija jedna je od najtežih rijetkih nasljednih neuromišićnih bolesti. Uzrokuje postupno propadanje motoričkih neurona, gubitak mišićne snage te, bez liječenja, dovodi do teške invalidnosti i skraćenog životnog vijeka kod najtežih oblika bolesti. Pogađa približno jedno od 10.000 novorođenčadi.

Hrvatska je 2023. godine uvela novorođenački probir na spinalnu mišićnu atrofiju, čime je omogućeno rano otkrivanje bolesti i pravodobno upućivanje djece na liječenje. Prema informacijama Saveza, gensku terapiju za SMA dosad je primilo deset djece iz Hrvatske, a potvrđena dijagnoza SMA postavljena je kod 125 osoba.

Nakon europskog regulatornog odobrenja slijede nacionalni postupci procjene, određivanja uvjeta financiranja i uvrštavanja terapije u zdravstveni sustav. Hrvatski savez za rijetke bolesti očekuje da se oni provedu u razumnim rokovima kako bi hrvatski pacijenti koji ispunjavaju medicinske kriterije imali pristup ovoj terapiji.

Iz Saveza upozoravaju kako je pravodoban pristup liječenju od iznimne važnosti jer je SMA progresivna bolest. Odgađanje liječenja može dovesti do daljnjeg gubitka motoričkih funkcija i značajno utjecati na kvalitetu života oboljelih i njihovih obitelji.

Istodobno podsjećaju da liječenje spinalne mišićne atrofije ne završava primjenom lijeka. Osobe koje žive sa SMA trebaju kontinuiranu multidisciplinarnu zdravstvenu skrb, fizikalnu i radnu terapiju, redovito praćenje zdravstvenog stanja, psihološku podršku te pristupačno okruženje koje omogućuje obrazovanje, zapošljavanje i ravnopravno sudjelovanje u društvu.

Hrvatski savez za rijetke bolesti krovna je, neprofitna i humanitarna organizacija koja okuplja 36 udruga osoba oboljelih od rijetkih bolesti. Kroz zagovaranje, suradnju s institucijama i stručnom zajednicom te pružanje informacija i podrške pacijentima i njihovim obiteljima radi na unaprjeđenju kvalitete života osoba koje žive s rijetkim bolestima. U Hrvatskoj se procjenjuje da između 250.000 i 300.000 ljudi živi s nekom od više od 6.000 rijetkih bolesti, zbog čega je osiguravanje pravodobnog pristupa dijagnostici, liječenju i sveobuhvatnoj skrbi jedno od ključnih područja djelovanja Saveza.

Nastavite čitati

Tko su Purger i Purgerica?

Purger i Purgerica

U trendu