Cu maturitate si realism despre AI

Nu doar ca stiinta nu intelege in acest moment decat foarte superficial cum functioneaza creierul, dar are o intelegere vaga a putinelor principii pe care le-a plagiat dupa el atunci cand a creat retelele neuronale artificiale. Probabil ca Noam Chomski are dreptate (cel putin in aceast caz) cand spune ca sisteme precum GPT4 sunt produse ale ingineriei, nu ale stiintei. Un reverse-engineering extrem de superficial.

Dupa unele estimari naive, creierul ar avea o putere de procesare de doar 10¹⁵ operatiuni pe secunda. Adevarul e ca se cunoaste foarte putin despre procesele complexe care se desfasoara intr-un singur neuron, care pare sa fie un computer analogic foarte sofisticat in sine. Cercetatori precum Roger Penrose sunt de parere ca functionarea lui se bazeaza pe fenomene legate de mecanica cuantica.

In incercarea de a copia creierul am urmat pasii unei retete intelese intr-un mod simplificat, pana la caricaturizare, extrasa din observatiile schematice facute asupra lui. Am folosit un singur numar ca sa reprezentam proprietatile unui neuron si tot un numar ca sa modelam o dendrita. Si e atat de socant ca in ciuda acestei hiper-simplificari s-au reprodus anumite aspecte notabile ale functionalitatii unui creier uman! Cat potential si cata robustete ascund principiile matematice dupa care functioneaza aceasta bijuterie biologica, daca pana si reproducerea lor partiala si deformata are un rezultat de un asemenea impact!

Am construit sistemul, ne minunam ca functioneaza si ne scarpinam in cap nedumeriti incercand sa intelegem cum functioneaza. Iar incapacitatea de a intelege naste teama, pentru ca ceea ce nu putem intelege nu putem controla.

Edited by effect, 19 April 2023 - 13:48.

effect, on 19 aprilie 2023 - 13:39, said:

Posibil sa fie asa, daca vorbim de niste rahaturi de operatiuni de baza. Mi se rupe ca nu pot face in minte produsul a 14 numere de cate 16 cifre fiecare.
In rest, creierul proceseaza instantaneu situatii putine dar de natura complexa pe care AI inca nu le intelege in sine. Bine, ce sa 'inteleaga' un program, m-am tampit si eu...

AI este un simplu soft facut de niste programatori IT.
Ca ar putea sa devina din ce in ce mai complicat, este adevarat, dar nu va deveni niciodata o entitate cu constiinta.
Va fi doar un computer sofisticat cu o mare putere de calcul.
Faptul ca este denumit intr-un anume fel, nu inseamna ca este ceea ce se pretinde.

Edited by johnnickelby, 19 April 2023 - 13:51.

effect, on 19 aprilie 2023 - 13:39, said:

Într-adevăr, organul biologic procesator de informaţii care e creierul, e foarte foarte complicat. Asta ne dăm seama doar când cineva începe să-l studieze. De fapt orice fenomen e complicat când se începe investigarea lui. Şi cu fiecare descoperire, se avansează spre înţelegerea funcţionării. Însă procesele de înţelegere durează ani, un timp proporţional cu complexitatea fenomenului.

Eu consider proiectul Blue Brain al Şcolii Politehnice Federale din Lausanne, Elveţia, ca fiind cel mai avansat în studierea şi reproduceera organului gânditor. Acest proiect a fost iniţiat în anul 2005 de către Henry Markram. Foloseşte pentru cercetare, supercalculatorul Blue Gene de la Argonne National Laboratory, prin intermediul softului NEURON ca mediu de simulare.

Printre descoperirile cele mai importante ale acestui proiect sunt: 2017 - descoperirea că legăturile neurale sunt la nivel de...11 dimensiuni, orice ar însemna asta. S-a reuşit totuşi să se modeleze reţeaua neurală la nivelul acestor dimensiuni folosindu-se topologia algebrică.

2018 - proiectul a lansat primul atlas 3D al celulelor creierului. 2019 - s-a reuşit simularea proceselor cortexului unui creier de...şoarece. 2022 - s-a reuşit simularea celulelor creierului prin algoritmul Topological Neuronal Synthesis.

.  .  .  .  .  .  .  .  .  .  .  .  .

Un alt proiect e BRAIN Initiative pornit în 2013 de către preşedintele american Barack Obama. Un altul e Human Brain Project finanţat de Comisia Europeană; pe urmă Google Brain, 4CAPS, Psi-Theory, Soar, FORR, CLARION, CALO al celor de la DARPA, Cajal...şi aşa mai departe, că sunt mai multe.


Viitorii 20 de ani, spun eu, ne vor aduce lucruri inimaginabile în prezent. Şi nu va mai trece mult până când creierul va fi simulat, iniţial, apoi după ce "organul simulat" se va autoîmbunătăţi constant, va depăşi cu mult oamenii în procesele cognitive.



Cine se gândea de pildă, anul trecut în vremea asta că...în prezent va exista un soft (ChatGPT) care ne va răspunde ca un om ?! Deocamdată numai prin scris, dar într-un an, doi, trei, şi vocal şi cu imagini faciale. Carevasăzică, lucrurile se derulează foarte repede.

Edited by lupini, 19 April 2023 - 14:16.

Ceva dreptate ai tu acolo, in sensul ca creierul uman CHIAR funcționează ca un calculator (memoria e harddisk-ul, inteligența e RAM -ul, istețimea e procesorul => poți avea hardul mare (sa fii cultivat si sa știi multe) dar daca ai RAM-ul slab si procesorul mic si nu accesezi informația de pe hard prompt la timp si cînd trebuie, lumea tot de prost te are.

Inversa nu e valabila totuși, calculatoarele si AI-ul n-o sa fie niciodată pe de-a-ntregul kakreierul uman. Oamenii au experiente si trăiri in funcție de care iau decizii, de-aia de exemplu AI-ul n-ai vrea si n-o să fie niciodată folosit pe post de judecător.

Edited by hellmarvel, 19 April 2023 - 14:28.

hellmarvel, on 19 aprilie 2023 - 14:17, said:

"Tot ce era de inventat, s-a inventat", spunea Charles H. Duell în anul 1899, un expert tehnic al Oficiului de Patente şi Invenţii din Statele Unite. Că n-a fost aşa, vedem cu toţii. Din 1899 până în...Anul Domnului 2023, lumea a avut parte de cele mai grandioase invenţii, care nici măcar nu puteau fi imaginate în 1899.

La fel va fi şi în...2123, dacă va mai exista Homo sapiens în forma lui cunoscută acum. Eu sunt convins că în acest secol 21 o nouă fiinţă gânditoare va apărea pe Pământ, ce va avea un "organ gânditor" mult superior celui biologic uman, care în prezent face cam 10¹⁵ operaţiuni pe secundă. Vorbesc despre creier.

Dacă ne gândim că a fost nevoie de un organ cu 10¹⁵ operaţiuni pe secundă pentru a descoperi multe legi ale naturii, să ne gândim ce descoperiri s-ar face de către "fiinţe artificiale" având organe cu 10²⁰ operaţiuni pe secundă, 10³⁰ sau 10⁵⁰ !

Edited by lupini, 19 April 2023 - 14:30.

lupini, on 19 aprilie 2023 - 14:29, said:

Si tot ce s-a inventat pana acum a fost un succes.

https://www.braineet...vation-failures

https://en.wikipedia...iki/Winged_tank

lupini, on 19 aprilie 2023 - 14:08, said:

Adevarata stiinta ar descoperi instant cum functioneaza si cum a fost posibil la intamplare ca ADN-ul sa inglobeze informatii de construire a intregului creier si functionalitatea lui.
Dar nah, se merge pe ghici . . . . stiinta lu peste prajit .

lupini, on 19 aprilie 2023 - 14:29, said:

Ca sa se descopere astea a fost nevoie de  minti foarte inteligente si decenii de cercetari.
Deci nu la intamplare apare mintea inteligenta.

andronic312, on 19 aprilie 2023 - 14:54, said:

Cele care au avut succes s-au păstrat. La fel se vor păstra şi în viitor invenţiile care vor avea succes. Inteligenţa non-biologică e una dintre ele.

lupini, on 19 aprilie 2023 - 15:10, said:

Da, doar ca si eu pot spune ca transformarea omului in fiinta non-biologica va fi un insucces.

Daca acum cineva ar porni un computer care poate sa faca mult mai multe operatii pe secunda decat creierul uman, acest computer nu ar face absolut nimic in afara de a consuma curent. Nu exista motivatie pentru a face ceva, nu exista necesitati fiziologice cum ar fi foamea sau setea care sa il impinga sa caute o solutie pentru a le satisface. Nu va cauta sa inventeze o metoda usoara de a aprinde focul sau de asi croi o haina. Aici este diferenta intre inteligenta artificiala si cea umana. Cred ca si o musca isi foloseste creierul mai mult decat ar face acest computer. El nu va avea initiativa.
Da, a avea o asa putere de calcul este binevenit, dar acest computer trebuie pus la treaba de om, va deveni o extensie a creierului uman dependent de acesta. Singur chiar nu va evolua, pentru ca nu are dorinte, sentimente, nevoi.
Daca bagi acest super computer in capatana unui robot si il trimiti sa taie lemne in padure, el asta va face. Daca il va intalni pe ala de s-a impotmolit cu SUV-ul in noroi zilele trecute, va trece pe langa el nepasator, scopul lui fiind de asi incheia sarcina programata. Nu o sa se opreasca umanoidul sa zica: bai, saracul om, a ramas impotmolit, hai sa-l ajut. Asa ca, din punctul meu de vedere, inteligenta artificiala ne poate ajuta, dar nu poate lua locul mintii umane si a omului. Razboaie cu roboti contra oameni veti vedea doar in filme. Nu o sa plece un robot de nebun sa lupte in Ucraina, de dragul unei anumite parti din conflict.

effect, on 19 aprilie 2023 - 13:39, said:

Eu (chiar dacă nu am pagina Wikipedia) am o problema cu genul asta de afirmații, de parca ingineria n-ar fi bazata pe știința ci pe substanțe halucinogene sau trial and error.

De exemplu termodinamica e o simplificare caricaturizata și extrem de superficiala a unor sisteme complexe și însă asta n-o face doar "inginerie" nestiintifica.  
Știința se poate baza foarte bine și pe idealizari, aproximatii sau simplificari uneori barbare însă asta n-o transforma în "inginerie" sau alchimie, cel puțin atâta timp cât cel care o folosește e conștient de limitările ei


Un singur număr poate reprezenta... pardon reprezinta deja conținutul Bibliei (în format pdf) , sau opera lui Beethoven (.flac), asa ca probabil ar putea reprezenta fără probleme și starea unui neuron de exemplu.

Edited by KiloW, 19 April 2023 - 17:41.

IA nu inseamna creier. Vad ca faptul ca este un produs al ingineriei este vazut c aun minut. Pai, daca nu apare ca urmare a rugilor catre Dumnezeu, atunci vreo tehnologie este la mijloc, deci inginerie. Ca totul este intai pe hartie sau in imaginatie, un vis. Apoi cineva, aduce acel vis in realitate, cu toporul, secera, calculatorul cunatint, gaura de vierme artificiala.
Deci AI nu va gandi, cel putin la inceput. Dar nu va fi idioata. Daca nu programezi cum trebuie, un om te va ignora atunci cand nu ai aer si vei muri ignorat d eun seaman de-al tau. Deci, daca este programat corespunzător, robotul trimis sa taie lemne va recunoaste situatia in care te afli si va intreprinde demersurile pentru a te scoate din incurcatura. Repet, nu trebuie sa fie om. Chiar nu-mi pasa ca nu este. Dar vreau ceva care poate gandi repede, care poate vedea departe, care are acces la tot ce s-a gandit si scris vreodata si poate sa-mi citeze macar din vreo carte, raspunsul la o intrebare. Apoi, daca sunt programator, il programez ca atare. Si daca ma duce capul sa o fac din ce in ce mai bine, nimeni de aici nu va sti ca acela nu este om, ci IA. Si asta pentru ca cei mai multi oameni nu sunt originali. Majoritatea, fac ce au facut sau ce fac si ceilalti oameni, insa beneficiaza de prezumtia de inteligenti, desi asculta manele la maxim, nu stiu sa scrie, traiesc pentru bani, nu manifesta empatie, respect etc.
Si inca ceva: avem nevoie de minti obiective in majoritatea domeniilor de activitate: in justitie, in medicina, in matematica etc. Un profesor de matematica mi-a spus odata ca singura variabila care limitează matematica, este mintea omului.

KiloW, on 19 aprilie 2023 - 17:30, said:

Depinde cat de precis un obiect, proces sau concept e modelat prin acel numar. In exemplele date de tine modelarea este foarte detaliata (poate chiar exhaustiva). In cazul neuronilor artificiali este extrem de sumara. Cuvantul caricatura nu e deloc exagerat. Aplicabilitatea unui model e data de acest grad de precizie a reproducerii caracteristicilor semnificative ale obiectului modelat. In cazul neuronilor poate ca nu e semnificativa modelarea metabolismului celular. Dar e o intreaga complexitate acolo, semnificativa pentru functia cognitiva, care a fost nu doar ignorata dar e in mare parte neinteleasa. Sa nu ne asteptam sa reproducem capacitatea cognitiva umana in toata amploarea ei printr-un astfel de sistem artificial simplificat. Se pot in schimb reproduce anumite caracteristici cognitive, care pot fi apoi amplificate prin scalarea sistemului (forta bruta). Dar insasi faptul ca sistemul dupa care ne-am inspirat este scalabil (putea sa nu fie) e un merit al designului original pe care incercam sa-l imitam.

Edited by effect, 19 April 2023 - 19:08.

YOUR_GOD, on 19 aprilie 2023 - 18:08, said:

Iti dai seama ce ai spus? Ala care il va programa are si el anumite interese, anumite prejudecati si daca el nu are, atunci le are cel care l-a angajat si care-i pune anumite conditii de programare.
Stiu, asa se intampla acum cu oamenii, dar daca totul va fi la fel si cu AI, chiar nu ma incalzeste cu nimic.
Deci despre ce vorbim? Despre un AI care se naste dintr-o AI virgina si dumnezeul AI-urilor? Si se autoeduca el sa fie cel mai obiectiv judecator sau mai stiu eu ce?
Discutia mi se pare ca vrea sa fie mult peste ceea ce este de fapt aceasta problema.

Edited by johnnickelby, 19 April 2023 - 19:04.

johnnickelby, on 19 aprilie 2023 - 19:01, said:

Cel putin la inceput, nu va exista o suprematie a IA. Va fi limitată cu scopul utilizarii acesteia ca o unelta. Odata insa, cineva se va indragosti de propria-i creație atat de tare, incat o va nelimita. Din acel moment, nu vom mai ști ce face IA.

Mie sincer sa fiu, mi se pare ca in lumea asta se experimenteaza acum un milion de discriminari, pentru un milion de categorii de oameni, comportamente si altele.
AI-ul nu va fi decat discriminatorul suprem, pe care nimeni nu-l va putea trage la raspundere.
Si bineinteles ca va discrimina "pe cine trebuie", adica pe cine a fost programat sa discrimineze.
My god, ce entuziasm pentru posibil, cea mai cinica metoda de discriminare si luare de decizii.

Edited by johnnickelby, 19 April 2023 - 19:16.

Reverse-engineering-ul este stiinta in masura in care contribuie la intelegerea principiilor dupa care functioneaza sistemul analizat. Atunci cand diseci un design doar atat cat sa-l poti reproduce fara sa-l intelegi nu depasesti sfera ingineriei.

Sunt multe progrese (care vor avea un impact din ce in ce mai mare asupra societatii) dar si multa valva nejustificata in domeniul AI. Oamenii au tendinta sa se imbete cu apa rece, de la omul de pe strada care a auzit ceva despre subiect la TV, pana la inginerii implicati direct in aceste progrese tehnologice.

Edited by effect, 19 April 2023 - 19:31.