Jump to content

SUBIECTE NOI
« 1 / 5 »
RSS
Ce farmacie VET online care "...

De unde cumparați legume si fructe?

Samsung S21 ultra

Plasa de umbrire peste gard de pl...
 O smecherie pe care nu o inteleg

Balcon parter fara acte

unde gasesc un speed bag in bucur...

Programe TV cu altfel de sporturi
 Laptop "bun la toate" max...

navigatie noua vw tiguan

ctfmon.exe - System Error (in Saf...

Ați prins vremurile cand 120 Volț...
 Whatsapp nu afișeaza numele ...

Medii admitere Politehnica Bucure...

Se extinde Baza de la Kogalniceanu

Politist mutilat de caine in curt...
 

Open AI nu (este) Skynet

* - - - - 1 votes
  • Please log in to reply
23 replies to this topic

#1
obosit

obosit

    Member

  • Grup: Members
  • Posts: 371
  • Înscris: 31.12.2018
salut! e tarziu si ma framanta o chestie :)
am inteles ca open ai (mi-e lene de majuscule - scuze) este practic un google on demand. pui o intrebare si toata informatia de pe internet e sortata pentru a ti se raspunde exact. internetul contine toata evolutia civilizatiei umane, asta e clar. intrebarea este: open ai nu poate sorta la un moment dat toate catralioanele astea de megabiti si sa decida ca civilizatia umana trebuie sa dispara (predictii bazate pe actiunile inregistrate in istoria civilizatiei)? exista intr-adevar domenii de studiu care se ocupa fix cu asa ceva, dar un creier care sa sorteze Totul, nu a existat pana acum.
o intrebare mai mica este: sunt state in America in care politia/judecatorii apeleaza deja la AI pentru supravegherea/inculparea unor indivizi - pe baza mediului in care au crescut, nivelului de educatie, venitului, preocuparilor si contactelor, AI emite un coeficient (daca gaborii sunt mai ratati, coeficientul e inlocuit cu culori) si il salta pe ala/sau ii da ani mai multi de bulau in functie de asta. ce se va intampla cand open ai-ul ia amploare - le pune bratari/cipuri de la nastere?
cam lung postul, scuze.
noapte buna!

#2
dani.user

dani.user

    Guru Member

  • Grup: Senior Members
  • Posts: 30,183
  • Înscris: 24.02.2007

 obosit, on 30 martie 2023 - 22:42, said:

am inteles ca

Ai inteles gresit.

Pentru partea a 2-a exista institutii ce ofera tratament specializat.

#3
MindArchitect

MindArchitect

    Senior Member

  • Grup: Senior Members
  • Posts: 9,644
  • Înscris: 30.11.2021
Poti da un link catre "sunt state in America in care politia/judecatorii apeleaza deja la AI pentru supravegherea/inculparea unor indivizi - pe baza mediului in care au crescut, nivelului de educatie, venitului, preocuparilor si contactelor, AI emite un coeficient (daca gaborii sunt mai ratati, coeficientul e inlocuit cu culori) si il salta pe ala/sau ii da ani mai multi de bulau in functie de asta. ce se va intampla cand open ai-ul ia amploare - le pune bratari/cipuri de la nastere?"

Ma intereseaza de unde ai luat informatia respectiva.

Este o dezbatere interesanta ce ar putea face AI cu datele respective, tinand cont ca teoretic ar putea face o prognoza destul de amanunta asupra viitorului.

#4
lupini

lupini

    Guru Member

  • Grup: Senior Members
  • Posts: 23,123
  • Înscris: 29.12.2006
Chiar aseară mă uitam pe un post TV la filmul "Terminator 2: Judgment day", făcut în 1990-1991, unul dintre filmele mele favorite, care m-au impresionat atunci, în 1991 când eram adolescent, atât ca poveste cât şi prin coloana sonoră.

Şi vorbeam chiar în urmă o oră cu cineva despre asta.

În povestea filmului se spune că, Congresul Statelor Unite a aprobat legea prin care compania Skynet întră online (era 1990-1991), pe data de 4 August 1997, şi în urma învăţării exponenţiale, elimină oamenii de la conducerea apărării strategice a Americii. În urma acestei învăţări accelerate, Skynet devine conştient de sine pe data de 29 August a aceluiaş an 1997, adică după doar 25 de zile. Mai departe ştim ce s-a întâmplat, pentru cei care cunoaştem filmul.



Acum avem un alt nume: compania OpenAI prin ChatGPT, care intră online pe data de 30 Noiembrie 2022. Încă nu a are conştiinţă de sine...sau cel puţin aşa ştim noi muritorii de rând. Însă...tendinţa duce înspre asta.



Îi consider pe James Cameron şi pe William Wisher, cei care au scris scenariul pentru Terminator 2 în urmă cu peste 30 de ani, ca fiind unii dintre marii proroci ai finalului de secol 20. N-au nimerit anul, 1997, dar au nimerit conceptul şi fenomenul tehnologic.

Edited by lupini, 30 March 2023 - 23:18.


#5
obosit

obosit

    Member

  • Grup: Members
  • Posts: 371
  • Înscris: 31.12.2018
https://www.google.c...justice-ai/amp/

asta la un simplu search. a fost un reportaj pe TV5 acum ceva timp.

#6
Alice

Alice

    Big Boobs

  • Grup: Senior Members
  • Posts: 7,120
  • Înscris: 05.12.2002

 obosit, on 30 martie 2023 - 22:42, said:

salut! e tarziu si ma framanta o chestie :)
am inteles ca open ai (mi-e lene de majuscule - scuze) este practic un google on demand. pui o intrebare si toata informatia de pe internet e sortata pentru a ti se raspunde exact.
Asta face google, iti cauta prin "toata informatia de pe internet".
OpenAI este conectat la Internet (ca ajungi la el). Nimic nu-l poate opri sa distruga tot.
Nu are acces la sistem? Nu-i nimic, gaseste un exploit, trimite ca raspuns un string care e formatat aiurea si primeste acces la sistemul pe care ruleaza.
E blocat din firewall? Gaseste un exploit si pentru alea.
Nu are acces la centrala nucleara? Rezolva, ori prin inginerie sociala, ori genereaza un exploit.

#7
pasilla

pasilla

    Superior Member

  • Grup: Senior Members
  • Posts: 55,778
  • Înscris: 31.03.2012
Deocamdata exista pericole privind tehnologia AI.
Sa speram ca se va reglementa folosirea lor.

Elon Musk și un grup de experți în inteligență artificială și manageri din industrie cer, într-o scrisoare deschisă, o pauză de șase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4 recent lansat de OpenAI din cauza unor potențiale riscuri pentru societate și umanitate

Edited by pasilla, 30 March 2023 - 23:31.


#8
TehCube

TehCube

    Railgun user

  • Grup: Senior Members
  • Posts: 4,722
  • Înscris: 09.01.2007

 obosit, on 30 martie 2023 - 22:42, said:

[...]si sa decida[...]
Cum adica sa decida? Realizezi cat de mare e pasul de la "am facut ceva care sorteaza foarte foarte bine informatia" la "am facut ceva care ia decizii"? Tu iti imaginezi ca acest AI foloseste un fel de ratiune pentru a raspunde la intrebarile puse?
E ca si cum ai inventa tu un aparat care curata cartofi folosind o bormasina si o lama, si ti-ai face griji ca maine isi deschide fransiza de cartofisserie.
E o ditai discutia despre ce inseamna constiinta, daca poate exista asa ceva intr-o masinarie, etc. Cel mai vag apropiat scenariu SF de chestia asta ar fi daca ai ajunge sa foloesti AI ca sa trainuiesti AI, adica sa scrie cod randomly pana iese ceva mai bun decat ce-am reusit noi pana acum. Dar de-acolo la "a decide" e cale lunga.

Problema reala cu AI este cum il vor folosi diversi, si cum va influenta asta societatea. Un exemplu cat se poate de real este cat de simplu se pot genera clipuri audio/video total fake. O sa ajungi sa nu mai poti avea incredere in nimic din ce "vezi pe net". :)
Chiar ieri am dat peste asta - [ https://www.youtube-nocookie.com/embed/ZNXcZWz-S8U?feature=oembed - Pentru incarcare in pagina (embed) Click aici ] si multe altele. Impressive af.

#9
red46

red46

    Senior Member

  • Grup: Senior Members
  • Posts: 4,519
  • Înscris: 06.03.2016

 pasilla, on 30 martie 2023 - 23:27, said:

Deocamdata exista pericole privind tehnologia AI.
Sa speram ca se va reglementa folosirea lor.
Elon Musk și un grup de experți în inteligență artificială și manageri din industrie cer, într-o scrisoare deschisă, o pauză de șase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4 recent lansat de OpenAI din cauza unor potențiale riscuri pentru societate și umanitate

Ce vrajeala are Musk. Sa dezactiveze GPT-4 atunci. A, stai, face bani.

Edited by red46, 30 March 2023 - 23:33.


#10
obosit

obosit

    Member

  • Grup: Members
  • Posts: 371
  • Înscris: 31.12.2018
cred ca Musk e cam suparat ca i-a tras-o Gates de data asta... a bagat 100 mil parai ca donatie in Open AI si acum Gates l-a luat la el. cam asta e cu "pauza". nu vad ce diferenta ar face o pauza cand torentul a pornit deja.

#11
pasilla

pasilla

    Superior Member

  • Grup: Senior Members
  • Posts: 55,778
  • Înscris: 31.03.2012

 red46, on 30 martie 2023 - 23:33, said:

Ce vrajeala are Musk. Sa dezactiveze GPT-4 atunci. A, stai, face bani.
Nu ar folosi la nimic. Sunt si alte gpt-uri in functiune.

Edited by pasilla, 30 March 2023 - 23:39.


#12
born2lose

born2lose

    Senior Member

  • Grup: Senior Members
  • Posts: 7,768
  • Înscris: 06.09.2004

 obosit, on 30 martie 2023 - 22:42, said:

intrebarea este: open ai nu poate sorta la un moment dat toate catralioanele astea de megabiti si sa decida ca civilizatia umana trebuie sa dispara (predictii bazate pe actiunile inregistrate in istoria civilizatiei)?
n-ai inteles cum functioneaza. ai-ul pe care il tot vezi pe net nu ia decizii, nu intelege conceptul, chat gpt este un generator de text. asaza cuvinte intr-o anumita ordine in functie de probabilitati. chat gpt nu poate interpreta sau intelege textul pe care il produce.

#13
pasilla

pasilla

    Superior Member

  • Grup: Senior Members
  • Posts: 55,778
  • Înscris: 31.03.2012
Nu intelege, dar incepe sa para angajatul perfect, in multe domenii.

Edited by pasilla, 30 March 2023 - 23:43.


#14
Punter

Punter

    Senior Member

  • Grup: Senior Members
  • Posts: 3,085
  • Înscris: 24.07.2022
eu vreau sa faca musk cipul ala cu AI, sa am (inca) o voce desteapta in cap, practic as avea gasca mea, sotia etc in cap. pot sa traiesc si in padure daca am net pe urma...sau sa ma duc oriunde si "ii fac" pe toti cu gasca mea.. :D

#15
obosit

obosit

    Member

  • Grup: Members
  • Posts: 371
  • Înscris: 31.12.2018
nu cred ca are nevoie sa inteleaga si nici de constiinta. e vorba de sortare date si raspuns ecuatie. nivelul urmator e conectarea unui supercomputer (?cuantic) - atunci sa vezi distractie.

#16
futurist

futurist

    Guru Member

  • Grup: Senior Members
  • Posts: 29,411
  • Înscris: 09.05.2008

 born2lose, on 30 martie 2023 - 23:39, said:

n-ai inteles cum functioneaza. ai-ul pe care il tot vezi pe net nu ia decizii, nu intelege conceptul, chat gpt este un generator de text. asaza cuvinte intr-o anumita ordine in functie de probabilitati. chat gpt nu poate interpreta sau intelege textul pe care il produce.
Exact ca un gujbete care da examenu' de capacitate.
Deci mai are nevoie de timp si profesori sa scoata ceva din el.

 pasilla, on 30 martie 2023 - 23:42, said:

Nu intelege, dar incepe sa para angajatul perfect, in multe domenii.
Mai ales in senat, din partea aur si usere.

 Punter, on 30 martie 2023 - 23:42, said:

eu vreau sa faca musk cipul ala cu AI, sa am (inca) o voce desteapta in cap, practic as avea gasca mea, sotia etc in cap. pot sa traiesc si in padure daca am net pe urma...sau sa ma duc oriunde si "ii fac" pe toti cu gasca mea.. Posted Image
Exista variante mai ieftine. Unele sunt legale prin anumite parti ale lumii.
Nu e nevoie de servere care consuma cat 5 trenuri TGV/MAGLEV si 4 transoceanice pentru asa ceva.

#17
george_alexandru

george_alexandru

    Mwe Austria

  • Grup: Senior Members
  • Posts: 31,988
  • Înscris: 30.08.2017

 lupini, on 30 martie 2023 - 23:12, said:


Acum avem un alt nume: compania OpenAI prin ChatGPT, care intră online pe data de 30 Noiembrie 2022. Încă nu a are conştiinţă de sine...sau cel puţin aşa ştim noi muritorii de rând. Însă...tendinţa duce înspre asta.


Rămâne de văzut cine va fi Sarah Connor. Eu pariez pe Gabi Firea.

#18
victor29cr

victor29cr

    Senior Member

  • Grup: Senior Members
  • Posts: 2,438
  • Înscris: 04.06.2016
Spre deosebire de filme, in realitate daca openAI o ia razna, avem doua solutii clare si bune pt a ne apara.

1) Se arunca o galeata cu apa pe serverele unde ruleaza.

2) Daca 1) nu merge, oprim internetul pt 2 zile

Lasand glumele la o parte, intr-adevar sunt ceva preocupari cu privire la AI, dar nu au treaba cu skynet.

Elon Musk a comparat AI cu o echipa de oameni care consturieste un drum. La un moment dat, dau de un cuib de furnici care e in drumul lor.
Nu au nimic cu furnicile, nu le urasc, dar sunt in drumul lor, ei trebuie sa construiasca. Asa cam vede Elon situatia.

O fi si pentru suma investita sa ramana open source pana sa isi bage Gates coasa :lol:

Copilot de la github ruleaza de o gramada de timp si pana acum nu a plecat de la mine din PC.

Anunturi

Second Opinion Second Opinion

Folosind serviciul second opinion ne puteți trimite RMN-uri, CT -uri, angiografii, fișiere .pdf, documente medicale.

Astfel vă vom putea da o opinie neurochirurgicală, fără ca aceasta să poată înlocui un consult de specialitate. Răspunsurile vor fi date prin e-mail în cel mai scurt timp posibil (de obicei în mai putin de 24 de ore, dar nu mai mult de 48 de ore). Second opinion – Neurohope este un serviciu gratuit.

www.neurohope.ro

0 user(s) are reading this topic

0 members, 0 guests, 0 anonymous users

Forumul Softpedia foloseste "cookies" pentru a imbunatati experienta utilizatorilor Accept
Pentru detalii si optiuni legate de cookies si datele personale, consultati Politica de utilizare cookies si Politica de confidentialitate