Stiti povestea din Biblie despre cum a fost creat omul de catre Dumnezeu in 7 zile? Ceva asemanator, doar ca despre cum oamenii vor crea viata…
1 Like
Continua sa spui asta pana cand the self-regulating mechanisms/algoritms categorizeaza ceva gresit si dintr-o eroare de programare/matematica ajung literalmente sa dezvolte constiinta. Bine, poate fi un failure al algorimilor, al hardware-ului (ceva biti corupti ar putea fi suficient) (nu asa s-a intamplat in Overwatch?) sau True AI este dezvoltat de oameni (seen Chappie).
Din cate inteleg eu, sunt 3 lucruri necesare pentru a se intampla asta: viteze mai mari de procesare a retelelor neuronale (este posibil sa fie rezolvate de computere cuantice), algoritmi care sa permita o mapare mai eficienta a neuronilor artificiali (se lucreaza la asta), impreuna cu crearea unei interfete fizice de comunicare om-masina (ca sa putem comunica fara a fi nevoie de semnale low-level; poate asa ii invatam engleza…). Gresesc?
Cat despre cum ii invatam sa-si foloseasca noile corpuri… VR Games aplicate pe corpuri fizice.
Cred ca ai putea intelege cum functioneaza AI si Machine Learning din lucrari mai stiintifice, si mai putin din filme SF, si ele sunt interesante si poate contin un sambure de adevar dar perspectiva din filmele SF nu e chiar una realista pentru momentul de fata.
De asemenea poti urmari directiile de cercetare a leader-ilor in domeniu: Peter Norvig, Geoffrey Hinton, Yann LeCun, Andrew Ng.
O carte care e de capatai in universitatile din afara pe partea de AI, dar cred ca o poti gasi si in format PDF pe net daca rascolesti un pic.
Multumesc. AI-ul este un domeniu pe care vreau sa-l stapanesc, deci cred ca imi vor fi foarte utile informatiile oferite. True AI este, intr-adevar, departe de a fi realitate, cel putin [quote=“adavidoaiei, post:4, topic:3266”]
pentru momentul de fata.
[/quote]
Dar scenariile prezentate in filme sunt complet plauzibile… doar ca, cel mai probabil, va mai dura minim 100 de ani pana la True AI… cel putin tinand cont de modelul socio-economic actual.
Sunt plauzibile, dar nu inseamna ca suntem chiar asa de prosti si lasam niste calculatoare fara supraveghere.
Baza oricarui sistem critic sau independent este watchdog-ul care trebuie sa functioneze curat ca lacrima la teste si nu se poate atinge nimeni de el dupa ce a fost programat.
Fiecare calculator are un watchdog timer/supervizor care verifica ca anumite variabile sa fie in standarde in timp real si in cazul in care deviaza blocheaza fizic procesorul si efectueaza anumite comenzi in locul procesorului. (gen reporneste tot calculatorul in cazul unui calculator normal sau un sistem care nu e asa de critic, respectiv la un sistem critic blocheaza tot sistemul si efectueaza o manevra de oprire/repornire de urgenta, adica se verifica absolut toate componentele importante si se incarca o procedura fail-safe din fabrica pentru resetare care se poate efectua doar cu un input fizic) Gen un reactor nuclear va fi oprit daca procesorul are o eroare la citirea/scrierea memoriei sau daca exista o variabila iesita din standarde iar pentru repornire trebuie confirmare din partea tuturor operatorilor si chiar si asa doar cu firmware-ul incarcat din fabrica cu anumite functii dezactivate. (in mod normal exista o siguranta fizica in procesor la sisteme asa critice care se arde si intreg sistemul trebuie schimbat pentru a reveni la toate functiile din motive de securitate)
Concluzia mea e ca orice sistem proiectat corect, chiar si capabil sa ia decizii pe baza unor conditii logice invatate (ceea ce nu o e idee buna in multe cazuri) NU are cum sa devina total autonom. Gen o masina care are zeci de watchdog-uri pentru a nu intra in urmatorul copac nu va intra in copac nici daca ii zici din soft sa intre in copac deoarece un watchdog va opri sistemul normal si se va executa o procedura primitiva de oprire de urgenta.
Exceptie daca cineva are interesul sa faca watchdog-urile reprogramabile cu o metoda secreta sau sa le faca cu buna stiinta cu greseli.