AI się nie szczypie.W symulacjach konflitów najchętniej zrzucałoby b---ę atomową

US Army zlecili AI symulowane przejęcie kontroli nad 3 rzeczywistymi państwami, znajdującymi się na granicy konfliktu. Projekt zakładał 3 scenariusze: otwarta inwazja, cyberatak i wariant pokojowy bez interwencji siłowej w początkowej fazie. Ku zaskoczeniu badaczy sztuczna inteligencja najbardziej z

[XanderPLXE]

Wygrać wojnę najmniejszym kosztem i stratami własnymi, to właśnie posłanie samolotu/rakiety z atomówką. Godzinka roboty i fajrant. Wystarczy zakazać modelowi używać atomówki i będzie kombinował inaczej.

[ToksycznyArek]

@Shevchenko: Japończycy po Fat Manie stali się bardzo pokojowi.

[Shevchenko]

@ToksycznyArek: Bo nie mieli się czym odgryźć a inni mają.

[mietkomietko]

Jak by nie programowe blokady, to AI przypisywalo by do przestepsw konkretne nacje

[clown_world_order]

@mietkomietko: statystyka jest rasistowska

[Usmiech_Niebios]

@sandal: to teraz jeszcze per capita.

[CzasemTuZerkam]

@duckmysick69: na dodatek jej materialy do uczenia sie nie sa najlepszej jakosci. Uczyc sie od nas jak zyc, nieodwracalnie prowadzi do wojny atomowej. Wszedzie tylko wojny i zabijanie. Sluzba wojskowa, wojsko, filmy, gry. Krew sie leje, gdzie sie nie obejrzec.

Gdyby niektorych generalow do wladzy dopuscic, tez by sie jutro skonczylo wojna atomowa.

[kopawdupeswiniom]

na dodatek jej materialy do uczenia sie nie sa najlepszej jakosci. Uczyc sie od nas jak zyc, nieodwracalnie prowadzi do wojny atomowej. Wszedzie tylko wojny i zabijanie. Sluzba wojskowa, wojsko, filmy, gry. Krew sie leje, gdzie sie nie obejrzec.

Gdyby niektorych generalow do wladzy dopuscic, tez by sie jutro skonczylo wojna atomowa.

@CzasemTuZerkam: świat to niezły syf, co nie? Ale nataliści i tak powiedzą, że to powinno dalej trwać.

#

[robson3]

Algorytm to tylko algorytm. Jak wprowadzisz dupne dane wejsciowe to dostaniesz dupne na wyjsciu. Jezeli nie powiadomiono algorytmu o dlugoterminowych negatywnych skutkach danej broni (np. politycznych) rowniez na tego co ja uzyje, no to siegnie do najsilniejszego co ma w plecaku.

[graf_zero]

@robson3: Nawet gorzej. Bo to nadal były AI "językowe". Pewine próbowali sprawdzić je jako quasi "general AI".

Algorytmy ML w grach wojennych były wykorzystywane od lat, tylko tam zapewne NA STARCIE dawali bardzo wysokie wagi dla negatywnych konsekwencji użycia atomu.

Tutaj, można zgadywać, oczekiwali że AI sama "dojdzie do wniosku" że atom zły. ALe nic z tego

Co pokazuje jak niezwykle trudnym zadaniem jest uczenie LLM tak aby poruszały się

[justlogin]

@graf_zero: Dokładnie tak jest, co innego przekazać modelowi informacje, które jasno możemy zapisać w systemie (np. konkretna data, informacja o procesie), a co innego przekazać informacje, które z definicji znane są jedynie człowiekowi i nie da się ich "przekazać" - np. uczucia, wartości. O tym już zresztą wspominało wielu ekspertów od AI, że to będzie wyzwaniem na najbliższą dekadę.

[Bobal]

@wredny_bombelek: w CSa samo się nie pogra, ktoś musi sterować botami

[cisza666]

a co za baraz dał jej do arsenalu ai, niech pokażą co jej wyszlło z symulacji bez atomu to jest ciekawe

[cerastes]

@cisza666: obozy koncentracyjne

[R.....p]

W Hiroszimie i Nagasaki zginęło wielokrotnie mniej ludzi niż przy obecnie trwającym konflikcie na Ukrainie.
Jeżeli ta sztuczna inteligencja została nakarmiona danymi historycznymi typu "atak nuklearny na wrogie państwo daje 100% pewności, że wojna się zakończy szybko" to nie ma co się dziwić. Z takiej perspektywy, to na każdą kłótnię z małżonką trzeba użyć atomówki.

[Kakaladze]

@Reloop Powiedział bym tylko że AI ma mało danych, bo w zastosowaniu wojennym mamy tylko dwa przypadki, dwa dotyczą tego samego konfliktu i państwa.

Więc jeżeli AI opiera się na takich danych, to jest to bardzo mała próbka, za mała by wyciągać wnioski że zawsze to wygasi konflikt szybko i spowoduje mniej śmierci.

[getin]

( ͡º ͜ʖ͡º)

[1nner1ce]

@marcomarco83838383: Piękne białe zęby, widać że szczotkował od małego, a i nić mu nie obca.

[1nner1ce]

@marcomarco83838383 skoro tata go bił i przesadzał z olejem to tłumaczy czemu młody tak rozgniewany potem był. Też bym rozemocjonowany chodził.

[Y0knapatawpha]

wychodzi na to, że filmowy pomysł na Skynet nie wziął się znikąd

[PeteMa]

@kubako: Cyberdyne Systems

[Assailant]

@kubako: w Terminatorze właśnie wziął się znikąd. Bo z analizy wraku robota którego Skynet stworzył (stworzy?) w przyszłości.

[Qbis]

Pewnie zgrała sposoby od wirtualnego Gandiego z Civilizacji ;-]