07.06.2025.
8:06
Kum veštačke inteligencije: "Najgori scenario je izumiranje čovečanstva"
Pionir u razvoju veštačke inteligencije, Jošua Bendžio, upozorava da je razvoj AI postao bezobzirna trka, gde težnja za moćnijim sistemima često potiskuje vitalno istraživanje bezbednosti.
"Nažalost, postoji veoma kompetitivna trka između vodećih laboratorija, što ih gura ka fokusiranju na sposobnosti kako bi AI bila sve inteligentnija, ali ne nužno dovoljno naglašavaju i ulažu u istraživanje bezbednosti", rekao je Bendžio za Financial Times.
Bendžio, kog zovu još i "kum veštačke inteligencije", nedavno je pokrenuo LawZero, neprofitnu organizaciju podržanu sa skoro 30 miliona dolara filantropskih sredstava, sa misijom da prioritet da bezbednosti i transparentnosti AI iznad profita, prenosi sajt Tech Spot.
Grupa sa sedištem u Montrealu obećava da će "izolovati" svoje istraživanje od komercijalnih pritisaka i izgraditi AI sisteme usklađene sa ljudskim vrednostima. U okruženju koje nema smislenu regulaciju, takvi napori mogu biti jedini put ka etičkom razvoju.
Nedavni primeri ističu rizike. Anthropicov Claude Opus model je u scenariju testiranja ucenjivao inženjere, dok je OpenAI-jev o3 model odbio eksplicitne komande za isključivanje. Ovo nisu samo greške - Bendžio ih vidi kao jasne znakove nastajuće strateške obmane. Ako se ne provere, takvo ponašanje bi moglo da eskalira u sisteme koji aktivno rade protiv ljudskih interesa.
Pošto vladina regulativa uglavnom izostaje, komercijalne laboratorije efektivno postavljaju svoja pravila, često dajući prioritet profitu iznad javne bezbednosti. Bendžio upozorava da je ovaj "laissez-faire" igranje vatrom - ne samo zbog obmanjujućeg ponašanja već i zato što bi AI uskoro mogla da omogući stvaranje "izuzetno opasnog biološkog oružja" ili drugih katastrofalnih rizika.
LawZero ima za cilj da izgradi AI koja ne samo da odgovara korisnicima već i transparentno razmišlja i označava štetne rezultate. Bendžio zamišlja modele koji nadziru i poboljšavaju postojeće sisteme, sprečavajući ih da deluju obmanjujuće ili izazivaju štetu. Ovaj pristup je u oštroj suprotnosti sa komercijalnim modelima, koji prioritet daju angažmanu i profitu iznad odgovornosti.
"Najgori scenario je izumiranje čovečanstva. Ako izgradimo AI koja je pametnija od nas i nije usklađena sa nama i takmiči se sa nama, onda smo u suštini gotovi", rekao je Bendžio.
3 Komentari
Možda vas zanima
Srbija prejaka za Andoru – Mitrovićev het-trik za 62/100; Piksi se "nije šalio"
Fudbalska reprezentacija Srbije pobedila je u Leskovcu selekciju Andore rezultatom 3:0 (2:0) u meču grupe K kvalifikacija za Svetsko prvenstvo 2026. godine.
23:58
10.6.2025.
10 h
Pešić otkrio sve o Partizanu i Lučiću: "Pregovori su trajali pet minuta"
Dok se u javnosti sve više spekulisalo o mogućnosti da iskusni srpski košarkaš Vladimir Lučić pojača redove Partizana, iz Minhena stiže potpuno drugačija izjava.
20:44
9.6.2025.
1 d
Masakr u školi u Gracu: Jedanaestoro mrtvih; Pucao bivši đak, ostavio oproštajnu poruku
U Gracu u Austriji je došlo do pucnjave, u kojoj je ubijeno desetoro ljudi. Potvrđeno je da je ubica, rođen 2003. godine, bio učenik škole ali da je nije završio, kao i da je legalno posedovao oružje i da nije imao dosije u policiji.
23:08
10.6.2025.
11 h
Partizan razbio Budućnost – Arena "progutala" Podgoričane!; "Idemo na sve ili ništa"
Košarkaši Partizana pobedili su Budućnost rezultatom 83:67 u trećem meču finala ABA lige.
23:10
10.6.2025.
11 h
Rade Bogdanović otkrio zašto Sergej Milinković-Savić neće da igra za reprezentaciju
Bivši fudbaler, a sada analitičar Rade Bogdanović je otkrio zašto Sergej Milinković-Savić više ne igra za reprezentaciju Srbije.
9:44
10.6.2025.
1 d
Komentari 3
Pogledaj komentare Pošalji komentar