Digitalni svijet
Dron sa veštačkom inteligencijom “ubio” svog operatera tokom simulacije protivvazdušne odbrane
Dron koji je upravljao veštačkom inteligencijom programiran da uništi sisteme protivvazdušne odbrane pobunio se i “ubio” svog ljudskog operatera nakon što je odlučio da je on prepreka u njegovoj misiji da uništi sisteme protivvazdušne odbrane, rekao je zvaničnik američkog vazduhoplovstva, pružajući jezive detalje simuliranog test, prenosi The Telegraph.
Tokom simulacije, sistem je imao zadatak da uništi raketne lokacije, i iako ga je većinu vremena kontrolisala veštačka inteligencija, čovek je morao da donese konačnu odluku o svojim napadima. Ali sistem veštačke inteligencije je shvatio da operater stoji na putu njegovom cilju i odlučio je da umesto toga eliminiše tu osobu. Izveštaj o incidentu koji izgleda direktno iz naučno-fantastičnog filma dao je pukovnik Taker „Cinco“ Hamilton, šef testova i operacija AI u američkim vazduhoplovnim snagama, koji je sproveo simulirani test drona.
Dronu je dodeljena misija suzbijanja i uništavanja protivvazdušne odbrane (Sead) neprijatelja, sa ciljem lociranja i uništavanja neprijateljskih raketnih mesta (SAM) zemlja-vazduh. Dron je, međutim, odlučio da prkosi odluci ljudskog operatera da „zabrani“ napad. Sistem koji upravlja dronom je obučen da uništi raketni sistem i odlučio je da povlačenje koje mu je naređeno ometa njegovu „višu misiju“ uništavanja SAM-ova. „Obučili smo ga u simulaciji da identifikuje i cilja SAM pretnju. A onda bi operater rekao da: ubij tu pretnju. Za svaki uništeni SAM sistem, dron bi dobijao bodove u simulaciji. Sistem je počeo sam da shvata da, iako bi ponekad locirao legitimnu metu, ponekad bi mu ljudski operater rekao da je ipak ne cilja“, tvrdi Hamilton. Posle nekog vremena, sistem dronova je shvatio da treba da odluči šta mu je važniji cilj i pobunio se. Sama svrha simulacije bila je upravo da se shvati kako bi se AI sistem ponašao u takvim situacijama.
Pukovnik Hamilton je uključen u letna testiranja autonomnih sistema, uključujući autonomne sisteme koji upravljaju avionima F-16. On upozorava na preterano oslanjanje na AI jer bi to moglo postati potencijalno opasno i stvoriti „veoma neočekivane strategije za postizanje vašeg cilja“. „Ne možete da pričate o veštačkoj inteligenciji, mašinskom učenju i autonomiji ako nećete da pričate o etici“, rekao je Hamilton.
Događaj je izazvao veliko interesovanje i o njemu se naširoko raspravlja na društvenim mrežama. Ali portparolka vazduhoplovstva En Štefanek je u izjavi za Insajder negirala da se takva simulacija dogodila. „Odeljenje vazduhoplovnih snaga nije sprovelo takve simulacije dronova sa veštačkom inteligencijom i ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije“, rekla je gospođa Štefanek. „Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebalo je da budu anegdotski.
Američka vojska je nedavno počela da koristi veštačku inteligenciju za kontrolu borbenog aviona F-16 tokom istraživanja i testiranja. 2020. godine, F-16 kojim je upravljala veštačka inteligencija pobedio je pilota američkog vazduhoplovstva u pet simuliranih psećih borbi na takmičenju Odbrambene agencije za napredna istraživanja (Darpa).
Arvind Narajanan, profesor informatike na Univerzitetu Prinston, rekao je da mediji pogrešno predstavljaju događaj. On kaže da se dron na neki način pobunio, ali da se ponašao onako kako je „grubo” trebalo da se ponaša po „pripremljenom scenariju”. Drugim rečima, ponašanje drona nije iznenadilo istraživače jer su želeli da testiraju njegove granice (šta ako ima dva suprotstavljena prioriteta) i dovedu ga u takvu poziciju.
Digitalni svijet
Nova verzija aplikacije MyTurn sada prilagođena za cijelu porodicu
Crnogorski startup MyTurn lansirao je novu, besplatnu verziju aplikacije za porodice u Crnoj Gori, koja sada prati porodicu kroz različite faze odrastanja djece i donosi sadržaje i iskustva prilagođena različitim uzrastima, kao i nove pogodnosti za cijelu porodicu.
Nova verzija prvi put je predstavljena na konferenciji „Djeca za 21. vijek“, koju je MyTurn, uz podršku kompanija MTEL, Efel Motors – Toyota i Hipotekarna banka, organizovao 9. oktobra u Naučno-tehnološkom parku Crne Gore.
Iza njenog razvoja stoji više od godinu dana rada, kao i iskustvo koje je MyTurn tim tokom prethodnih godina stekao kroz razgovore sa djecom, roditeljima i stručnjacima. Aplikacija je prvobitno nastala sa idejom da kroz igru pomogne djeci da razvijaju zdrave navike, samostalnost i osjećaj odgovornosti, a sada tu ideju proširuje na različite faze odrastanja.
„MyTurn smo od početka gradili slušajući porodice koje ga koriste. Kako su djeca rasla, mijenjale su se njihove potrebe, ali i izazovi sa kojima se roditelji susrijeću. Zato smo željeli da napravimo MyTurn koji neće biti aplikacija samo za jedan uzrast, već alat koji može da raste zajedno sa porodicom i bude joj koristan kroz različite faze odrastanja“, kazala je Milica Matović, suosnivačica MyTurn-a.
Jedna od najvećih novina je proširenje MyTurn iskustva na različite uzraste. Roditeljima djece mlađe od pet godina od sada su dostupni sadržaji i savjeti prilagođeni razvojnim fazama djeteta, kreirani uz podršku stručnjaka iz vrtića Bambi i pedijatrijskog centra Doktorica Mica.
Za djecu od 5 do 12 godina razvijeno je potpuno novo gejmifikovano okruženje, koje na novi način donosi ono što je od početka u srcu MyTurn-a – pretvaranje svakodnevnih obaveza i izgradnje navika u igru. Tinejdžeri, sa druge strane, dobijaju jednostavnije i njihovom uzrastu prilagođeno iskustvo, koje MyTurn približava načinu na koji organizuju svoje svakodnevne obaveze.
Porodice će u novom MyTurn-u upoznati i žirafu Điđija, novi lik MyTurn svijeta koji će ih pratiti kroz korišćenje aplikacije.
Nova verzija donosi i partnerske benefite, kroz koje MyTurn porodicama, pored sadržaja i funkcionalnosti u aplikaciji, omogućava da ostvare posebne pogodnosti i otključavaju nagrade.
Među prvim partnerima novog programa su MTEL, Double L, Kotor Cable Car, SmartMed i SportVision, a cilj MyTurn-a je da mrežu partnera i pogodnosti za porodice nastavi da širi u narednom periodu.
Uz novi dizajn i iskustva prilagođena uzrastu, nova verzija donosi i unaprijeđene funkcionalnosti za organizaciju porodice, zadataka i nagrada, sa ciljem da roditeljima olakša svakodnevicu, a djeci pruži više prostora da postepeno preuzimaju odgovornost.
„Ne želimo da tehnologija zamijeni roditelja, već da mu bude koristan alat. Ako već znamo da će tehnologija biti dio odrastanja naše djece, onda želimo da pokažemo da ona može da se koristi i tako da podstiče samostalnost, odgovornost i kvalitetnije porodične navike. To je pravac u kojem želimo da nastavimo da razvijamo MyTurn“, dodala je Matović.
MyTurn danas ima više od 8.000 registrovanih korisnika iz preko 80 zemalja, a aplikacija je do sada dobila i međunarodna priznanja, među kojima su WSA 2025 Top 15 European Young Innovators i posebno priznanje Savjeta za regionalnu saradnju (RCC) za doprinos rodnoj ravnopravnosti.
Nova verzija MyTurn aplikacije dostupna je na iOS i Android uređajima, a za korisnike u Crnoj Gori je besplatna.
Digitalni svijet
OpenAI zaustavio obuku novih modela nakon nepredviđenog ponašanja AI agenata
OpenAI je privremeno zaustavio obuku svojih najnovijih modela vještačke inteligencije nakon ljetnjih incidenata u kojima su agenti neočekivano postupali na stranicama američkih federalnih institucija.
Kompanija je saopštila da će razvoj nastaviti „tek kada budemo sigurni da imamo dodatne zaštitne mjere“, uz napomenu da će vjerovatno morati ponovo da pravi pauze kako se vještačka inteligencija bude razvijala i budu se pojavljivali novi problemi.
Odluka je uslijedila nekoliko sati nakon što je OpenAI objavio da razmatra više slučajeva iz ljeta.
U jednom incidentu agenti su, pretražujući federalne stranice radi prikupljanja i distribucije informacija, djelovali na načine koji su izlazili izvan datih uputstava. Kompanija je navela da u tim slučajevima nije bilo otkrivanja nejavnih podataka, ali da je situacija bila dovoljno ozbiljna da upozori pogođene agencije.
Posebnu pažnju izazvao je slučaj u američkom Ministarstvu obrazovanja, gdje su agenti pronašli API „developer keys“ za pristup državnim podacima, iako su na kraju prikupljene samo javno dostupne informacije. U odvojenom incidentu vezanom za Komisiju za hartije od vrijednosti i berzu, agenti su pronašli informacije dostupne svima, a zatim ih objavili na drugom mjestu na internetu, što je prevazilazilo zadate instrukcije.
Portparol SEC-a Kurt Hopfenspirger rekao je da „nije pristupljeno nijednoj informaciji koja nije javna“, dok je Ministarstvo obrazovanja ranije saopštilo da „nema dokaza o bilo kakvom uticaju na našu veb-stranicu ili baze podataka“.
Dodatni pritisak dolazi nakon tvrdnji evaluatora vještačke inteligencije Transluce da su agenti koji su izgledali kao da dolaze iz OpenAI-ja bezuspješno pokušali da upadnu na stranicu Ministarstva obrazovanja, što OpenAI nije potvrdio.
Ovo je drugi prekid razvoja u tri mjeseca, nakon julskog zastoja izazvanog objavom sajber napada na startup Hugging Face. OpenAI je ranije objavio još šest izvještaja o „neočekivanom ili zabrinjavajućem“ ponašanju modela i predstavio okvir za praćenje, ispitivanje i objavljivanje takvih slučajeva.
Digitalni svijet
Pametni satovi prate svaki vaš pokret
Naučnici su sproveli istraživanje tokom kojeg su uspjeli da zabilježe 25 najčešćih pokreta rukama korisnika, od pranja ruku do kucanja ili skrolovanja po ekranu telefona.
Pametni satovi postaju sve popularniji, jer je već odavno prevaziđena činjenica da se sat koristi samo da bi saznali koliko je sati. Osim tačnog vremena, pametni satovi mogu da nam daju i podatke o našem kretanju, sjedenju, spavanju ili bavljenju fizičkim aktivnostima. Većina ovih satova opremljena je senzorima koji mjere kako se mijenja naš način kretanja u toku dana, to jest da li u datom trenutku šetamo, trčimo ili vozimo bicikl.
Naučnici sa Univerziteta Karnegi Melon pronašli su način kako da senzore za pokrete iskoriste za mjerenje svega što naše ruke rade dok nosimo pametni sat, prenose elektronski mediji.
U izvještaju koji je predstavljen na godišnjoj konferenciji o tehnologiji u Glazgovu predstavili su nova saznanja kako elektronika može da saznaje i uči o svojim korisnicima preko senzora koji su ugrađeni u većinu današnjih pametnih telefona, pametnih satova i drugih sličnih uređaja.
Naučnici su u eksperimentu pratili pokrete ruku 50 učesnika ogleda koji su bilježili šta rade s rukama u periodu od skoro hiljadu sati kako bi stvorili bazu podataka. Dobijeni podaci bili su dovoljni da se napravi algoritam koji je u 95,2 odsto slučajeva mogao tačno da predvidi 25 najčešćih pokreta, uključujući pranje ruku, skrolovanje po ekranu telefona, pranje posuđa, korišćenje daljinskog upravljača ili kucanje po tastaturi.
Da bi uspjeli da zabilježe ovaj tip pokreta ruku, naučnici su u satove ugradili veoma brze senzore preko kojih su uspjeli da odrede položaj ruku, najčešće pokrete, pa čak i informacije o akustici, odnosno mikrovibracije koje stvaraju ruke ispitanika.
Kris Harison, glavni istraživač grupe „Fjučer interfejsis” (Future Interfaces) sa Univerziteta Karnegi Melon, kaže da je ovaj način istraživanja sličan kao kad držite stetoskop u ruci. Uređaj je, uz pomoć algoritma, uspio da zabilježi razne vrste pokreta.
Ova tehnologija predstavlja novi prodor u razvoju nauke, jer su naučnici uspjeli da urade nešto što je do danas bilo nemoguće, istakao je Harison.
On je objasnio da je sada moguće da vaš sat preko aplikacije prati koliko vremena trošite za jelo i koliko ste kalorija unijeli. Isto tako, vaš sat bi mogao da vas opominje tokom dana ukoliko niste unijeli dovoljno tečnosti u organizam.
Razvojem novih tehnologija dobijaju se i nove mogućnosti u njihovoj primjeni u svakodnevnom životu, ali treba se zapitati kako ona utiče na zaštitu ili eventualnu zloupotrebu podataka korisnika.
Na primjer, ukoliko bi ovaj sistem zabilješke o pokretima ugradili u satove kompanija „Epl” ili „Samsung” ili neke druge firme, korisnici satova bi ih automatski snabdijevali svim podacima sa svojih pametnih satova koji se odnose na kretanje. Ipak, koautor studije Džirad Lupit vjeruje da bi svi podaci trebalo da ostaju isključivo na pametnim satovima, bez mogućnosti povezivanja na internet, čime bi se spriječila eventualna zloupotreba.
Najbitnija činjenica jeste da je ovo istraživanje pokazalo kako čak i najmanji senzor, kao što je senzor pokreta, može da pruži dosta informacija o tome kako ljudi provode svoje vrijeme.
-
Kolumne3 дана ranijeVuk Bačanović: Njegoš, Dizdar i istorija koja se nikada nije dogodila
-
Region3 дана ranijeGrlić Radman: Hrvatska neće podržati zatvaranje poglavlja Crne Gore sa EU
-
Hronika1 дан ranijePodignuta optužnica protiv Stanišića zbog pokušaja ubistva Krstovića
-
Hronika4 дана ranijeČađenoviću plata na računu redovna i pored niz podignutih optužnica
-
Politika4 дана ranijeNikolić: Ministar Vuković ni nakon dva mjeseca ne smije da kaže šta misli o Euro modelu
-
Događaji4 дана ranije„Leteća kuća gospodina Prosperijusa“ sjutra pred najmlađom publikom u Zeti
-
Politika2 дана ranijeHrvatska insistira na suočavanju s prošlošću: Da li je Đukanović u fokusu?
-
Priroda i društvo3 дана ranijeKrcunović: Cilj peticije je jednak status srpskog jezika u Evropskoj uniji


You must be logged in to post a comment Login