Mógłbyś przytoczyć jakieś zadanie? Ze względu na różne programy to zbyt dużo nie mówi.
Zdaniem Elona Muska musimy zacząć wprowadzać regulacje dotyczące SI
Elon Musk uważa, że sztuczna inteligencja jest zagrożeniem dla naszej cywilizacji. Dlatego jego zdaniem już teraz powinniśmy wprowadzać regulacje prawne dotyczące tej technologii, zanim będzie za późno.
z- 281
- #
- #
- #
- #
- #
- #
Elon uważa, że regulacje powinny zostać wprowadzone przed wytworzeniem SI, więc to czy ona istnieje, czy nie, nie ma znaczenia.
Musk osiągnął wystarczająco dużo, żeby jego zdanie miało znaczenie.
Co takiego osiągnęli obecnie na świecie rządzący, aby ich rządzenie było bardziej uzasadnione niż teoretyczne rządzenie Elona?
Po krótkim zastanowieniu:
Można by zacząć od obowiązkowych testów w odizolowanym środowisku, ograniczeń mocy obliczeniowej i połączeń, "awaryjnych wyłączników" itp. Karalne byłoby nieprzestrzeganie takich ustaleń. Surowo karane byłyby też incydenty tak, aby twórcą bardziej zależało na bezpieczeństwie.
Patrząc z drugiej strony, jeżeli człowiek zbuduje więzienie, ale popełni błąd, to małpa ucieknie. Z tego powodu proponowałbym kolejne zabezpieczenia np.:
- Pudełko A w pudełku B, gdzie do A wpuszczamy SI, czekając aż z niego ucieknie. Miałoby to na sprawdzeniu szczelności przed właściwym wykorzystaniem pudełka A.
- Ukrywanie przed SI, że jest w pudełku, dając jej iluzję tego, że niczego poza pudełkiem
Jeżeli jakieś firmy programistyczne miałby się wynieść, to tylko te pracujące nad SI i niezważające na bezpieczeństwo.
@elvp: To będziemy mieć niezły problem, jeżeli spróbujemy wyjść i ktoś się zorientuje.
Nie wystarczy. Taką ideą można nazwać choćby sieci neuronowe. Problem w tym, że do zrealizowania czegoś takiego potrzeba by było ogromnej ilości specjalistów i kapitału.
@dwuCebulanParawanu: Chętnie bym sobie o tym doświadczeniu poczytał.
W przypadku SI wydostającej się z pierwszego pudełka, ludzie mają tę przewagę, że SI podczas ucieczki nie
System rozproszony w przypadku SI, o której możliwość "buntu" się obawiamy to chyba najgorsza możliwa opcja. Według mnie właśnie tego powinna dotyczyć pierwsza regulacja.
Tak jak napisałeś, użycie SI jako broni to kolejny temat, więc nie poruszajmy go w tym, już przydługim, wątku.
Zgadzam się z @johny-kalesonny. Chyba niepotrzebnie to napisałem. Jednakże chodziło mi także o znaczenie w sensie wpływu, posłuchu i wypowiedzi z pozycji autorytetu.
A mam :)