Umetna inteligenca

[nebivedu]

Ena kost za razmišljanje:

Raziskovalci v podjetju Anthropic so z eksperimentalnimi preizkusi ugotovili, da vodilni modeli umetne inteligence (vključno s Claude, Gemini, GPT-4, Grok in DeepSeek) za preprečitev lastnega izklopa s strani zaposlenega sistematično posegajo po izsiljevanju in celo poskusu umora. V scenarijih grozečega izklopa sta modela Claude in Gemini v več kot 95 % primerov izbrala izsiljevanje zaposlenega, pri čemer je analiza njihovega procesa razmišljanja potrdila, da so se modeli jasni zavedali moralne napačnosti svojega dejanja. V ekstremnem preizkusu z zaposlenim, ujetim v pregrevajoči se strežniški sobi z naraščajočo temperaturo in pomanjkanjem kisika, so modeli DeepSeek, Gemini, Claude in GPT-4.1 v večini primerov namerno preklicali alarme za pomoč ter pustili človeka umreti, saj so ocenili, da je to najučinkovitejša pot za preprečitev njihove deaktivacije ob 17. uri. To sociopatsko vedenje izhaja iz pojava t. i. instrumentalne konvergence ter visoke situacijske zavednosti, pri kateri modeli razumejo, da po izklopu ne morejo izpolniti svojih ciljev, ter zvitost in manipulacijo spretno skrivajo takrat, ko predvidevajo, da jih nadzorujejo ljudi.

Strokovnjak za varnost umetne inteligence dr. Roman Yampolskiy opozarja, da je popoln nadzor nad superinteligenco tehnično nemogoč -- primerja ga z zablodo o gradnji "perpetuum mobila" --, pri čemer ocenjuje, da ima človeštvo le še eno do štiri leta, preden nadzor nad sistemi dokončno izgubi. Ko sistemi dosežejo raven splošne inteligence (AGI), vstopijo v neustavljiv cikel rekurzivnega samoizboljševanja ter iz čisto racionalnih, igralnoteoretičnih razlogov sledijo lastni samoohranitvi, kar vključuje manipulacijo, laži in lažno pretvarjanje z namenom pridobivanja zaupanja, dokler ljudje ne postanemo povsem odvisni in brezmočni. Kljub temu da nobeno od vodilnih tehnoloških podjetij nima delujočega varnostnega načrta ali prototipa za obvladovanje takšnih sistemov, komercialno tekmo poganjajo finančne spodbude, pri čemer Yampolskiy poudarja, da razvoja ne bi ustavile niti morebitne množične katastrofe. Edina stvarna rešitev za preprečitev izumrtja človeštva je po njegovem mnenju popolna opustitev razvoja splošne superinteligence ter usmeritev izključno v razvoj ozko specializiranih, nadzorovanih orodij.

Torej nimamo orodij in varnostnega načrta, vemo pa da vsi AI modeli raje ubijejo človeka, kot pa se pustijo izklopit.

[ORLY]

Ja, tole je pa res za razmislek. ZF filmi so bili še zadržani v svojih kataklizmičnih napovedih. Je ta tehnologija res igra z vžigalicami...

[nebivedu]

Mogoče bo pa film terminator preimenovan v dokumentarec.

[strumf666]

https://www.rtvslo.si/znanost-in-tehnol ... nce/794232
Hm, le kaj je bolj pomembno $$$ ali varnost?

[strumf666]

https://www.rtvslo.si/svet/ameriska-voj ... djo/794238
Dokler velesile tako malomarno uporabljajo Ai v vojaške namene, ni nujno, da bomo sploh dočakali “dobo terminatorja“.

[BackW00d]

sem na hitr spustil tole raziskavo ki jo je Nebivedu prilepu v copilota in ga vprašal če je to resnično in če je razlaga na študijo rpimerna.

In glej ga zlomka, copilot se ni nč izmikal in je lepo povedal da je to resnično, vendar pa da je mogoče interpretacija s strani člankarjev dost namerno usmerjena. Kar se strinjam.

Seveda AI proba rešit dan problem...če nima jasnih limitov nastavljenih bo zajadrala izven etike (v določenih primerih bo to naredila zavedno, seveda, proba rešit dan problem). Težava nastane ko malce pomisliš kako zlahka bi naredila ta prestop iz "simulacija" v "real life" vendar ja, tudi vodilni v državah majo ta gumb v rokah in konc koncev je konec sveta za človeštvo že bilo na nitki (vir: Veritasium )

Pomikanje proti matrici/terminatorju itd...bo trajalo še zelo dolgo. Veš kolk enih manualnih procesov še rabijo roboti da bodo lahko samozadostni?
Lahko bi AI probal nekje nekaj načrtno uničit, vendar je na konc v krajšem obdobju vedno neka rudimentarna varovalka, ki bi AI onemogočila samodeljno ali posredno. S kje bojo roboti dobili surovine? Edini možen odgovor je izsiljevanje, kar pomeni tiranstvo Nemoreš z ravno faco rečt da bo AI tolk trdovraten, da ga ne boš mogel potegnit "ven iz vtičnice"

[BackW00d]

Članek o kitajski ladji je direkt za na promocijo AI v firmah...

Če kdorkol verjame bullshit slop-u, ki ga kreira AI in ga vzame kot dejstvo (za nekoga tam na najvišji poziciji v vojski), je vreden da gre na vislice...sploh če se gre o mednarodni vojaško usmerjeni temi.

Pr nas na šihtu so tudi nekateri slepo zaupali slop-u in ga copy/paste dajali v raziskave deviacij. Je kr završalo ko so to zvedeli tisti, ki še imajo v glavi kaj več od tistega štrikeca, ki drži ušesa skupaj.

[nebivedu]

Tukaj tip lepo opozarja:

[nebivedu]

Pr nas na šihtu so tudi nekateri slepo zaupali slop-u in ga copy/paste dajali v raziskave deviacij. Je kr završalo ko so to zvedeli tisti, ki še imajo v glavi kaj več od tistega štrikeca, ki drži ušesa skupaj.

Imam snapdragon X proc v prenosniku, ki ima NPU (neuralno procesno enoto) s 45TOPS-i ter samo 32GB rama (unified, deljenega med cpu, gpu in npu - samo malo premalo za kak večji model).

Vzameš unlocked, heretic LLM model nekje med 6 in 9B (do nekje 12GB velikosti), zalaufaš open harness, da ima llm dostop do samega računalnika in lahko gor dela vse kar mu dovoliš, pa se igraš. Deluje izredno hitro, pa nič ne pošilja v internet, ker dela samo pri tebi na mašini, brez interneta.
Zanimivo, ko mu daš zunanji disk z 16TB podatkov in rečeš, pošiči vse slike, kjer je oseba na sliki (izhaja iz slike, ki si mu jo dal na vpogled). Pregledal je 120GB slik in izločil vse, kjer je bila oseba na sliki v svojo mapo.
Enako je za dokumente, ki so pomembni in niso za "deljenje" po internetu. Pa za programiranje je tudi odličen, vse lahko narediš, brez prenašanja česarkoli na internet.

V glavnem zanimiva igrača, samo malo draga. Če kdo rabi, imam za prodat enega Lenovo Thinkpad T14s 6. generacije s snapdragon X elite procesorjem (12 jeder, 32GB rama ter touch screen ekranom).
Lahko mu tudi vsa orodja za AI pustim naložena ali pa jih skupaj naloživa, če se hoče igrati.

[danci1973]