Este evident ca ne aflam in pragul celei de a treia revolutii industriale indreptandu’ne inspre o lume robotizata, in care intentia este ca mare parte din job’urile de azi pentru oameni vor disparea in favoarea robotilor care vor face din ce in ce mai multe lucruri. Citind insa stirea asta, vine fireasca intrebare: cat de sigura va fi o lume robotizata?
Producătorul Subaru, a cărei linie de asamblare a „omis” sudarea unor elemente de caroserie esenţiale pentru rezistenţa structurală, problema a fost descoperită în timpul unui control de rutină, făcut la ceva timp ducă ce primele vehicule SUV din gama Subaru Ascent 2019 au fost livrate clienţilor, fără ca pilonul responsabil cu susţinerea uşilor pe una dintre laturile autovehiculului să fie prins efectiv în suduri. Chiar dacă vehiculelor astfel livrate nu le cădeau uşile din mers, cum am văzut în unele show-uri de televiziune mai mult sau mai puţin trucate, deznodământul în cazul unor accidente de circulaţie putea fi tragic, caroseria vehiculului neputând oferi protecţie suficientă pasagerilor aflaţi la bord.
Descoperită la 293 vehicule produse în perioada 13 -21 iulie, problema este datorata unei erori software si nu poate fi corectată în nici un fel, toate exemplarele Subaru Ascent 2019 urmând să fie trimise la casare.
Desi poate parea doar un caz izolat, nu este deloc asa, anul trecut Tesla datorita unei erori majore de proiectare si programare a liniei de productie a dus intr’un final a dus la inlocuirea intregii linii de productie automatizate, recrutand intr’un final angajati umani pentru a asambla si livra autoturismele electrice din seria Tesla Model 3 si asta este doar un alt exemplu, ca sa nu mai zic de masina de la Uber care anul trecut a facut o prima victima umana, care in urma anchetei a reiesit ca a fost cauzata datorita unei erori independente de programatori, senzorii si AI’ul fiind responsabili de decizia de a nu lua in considerare obstacolul ce din nefericire era un om. 
Asadar, daca problema asta de siguranta a fost descoperita intamplator si abia in urma unui control control de rutina facut dupa livrarea a cateva sute de automobile cu defecte grave de siguranta, cate astfel de erori or mai fi in rest nedescoperite si cate vor mai fi pe viitor? Cat de sigura e viata si siguranta noastra pusa in manile unor astfel de masini, unde orice eroare de programare poate oricand duce la producerea unor tragedii de proportii?
Acum incep sa il inteleg mai bine pe Elon Musk ca activist impotriva inteligentei artificiale si sa ii dau si dreptate, pentru ca tehnologizarea asta facuta fara cap si fara coada doar din dorinta de a reduce costurile de productie, oricand poate da rateuri de genul asta, orice mica eroare de program sau neglijenta fiind transpusa automat in procesul de fabricatie fara nici un discernamant, iar lucrurile se complica in sensul asta si posibilitatea unor erori creste cu cat linia de fabricatie este mai complexa. Oare, chiar e ok un asemenea viitor?
Pareri?
Eu personal sunt contra. Bun, roboti destul de sofisticati sunt de ajutor, la oparatii medicle samd. Dar sa ne dam pe mana lor…no way.
Cred că problema e greșit pusă .. sistemele expert clasice sunt susceptibile de erori de programare și algoritmi incompleți/eronați .. sistemele curente de machine learning au o fundamentare strict statistică , și în linii generale, garantează cel mult o rată de eroare sub o anume limită .. nici nu se pune problema sa nu greșească, ci doar să greșească mai puțin decât omul, eventual .. rămâne problema răspunderii juridice – dar sigur se vor găsi soluții … La mașinile fără șofer , de exemplu , aș propune un sistem în care responsabil pentru training să fie chiar șoferul, care devine astfel și responsabil juridic (ca părinții pentru copii) .. vom avea astfel acelasi model de mașina care va conduce în stil de cocalar, pensionar, femeie isterică, hipster , samd, funcție de trainingul primit ..
.. lăsând gluma deoparte, activezi pilotul automat doar când ești mort de beat, obosit, drogat, și răspunzi pentru el ..
Problema va aparea atunci cand sistemele astea vor ajunge la concluzia ca suntem cantitate neglijabila, exemplul cu AI’ul dezvoltat pe masinile de la UBER fiind poate cel mai bun exemplu. Discutia e complicata asa cum zici si tu din mai multe puncte de vedere ale discutiei. Pana la urma, da, Idiocracy va fi de viitor.
Am încredere în sistemele google, apple, tesla, nvidia, uber, etc, pentru mașinile autonome, mai mult decât în jumătate dintre șoferii din România .. la noi, Idiocracy e de actualitate, că noi am ars niște etape ..
Eu sincer, nu am in nici unul dintre astea cata vreme sunt proiectate tot de oameni!
Câtă vreme sistemele recunosc mai bine decât omul diferența între un castravete și o banană, nu văd motivele îngrijorării .. problema e strict juridică, și se va rezolva .. bag seama că preferi un taximetrist in trening, care asculta manele și te face la aparatul de taxat , unui taximetrist trainuit de google .. eu nu..
Amu depinde cum privesti problema. Mie unul imi place sa mai si comunic cum ar fi sa ii adresez o injuratura tapana pe care sa o priceapa, cu robotul cum faci cand ii da cu error?
In rest, episodul asta din X-FILES e absolut fabulos de graitor …
https://www.youtube.com/watch?v=48rkq90vOBY
Acum depinde despre ce vorbim, automatizare sau roboti cu AI de un oarece nivel, cu functii de autodiagnostic, etc sunt chestii total diferite si in cazul dat roboti nu au gresit pentru ca „asa au vrut ei” sa-si omoare creatorul prin omisiunea intentionata a unei suduri
.
Trebuie sa scapam de isteria asta, in fabrica auto e vorba de automatizarea unor procese de productie, programarea fiind umana, deci si greseala tot de acolo venind, putand fi vorba chiar de un sabotaj al concurentei, etc.
Acum trebuie sa fim convinsi ca automatizarea va continua si omul care executa anumite operatii pe linia de productie va fi eliminat pana la urma total si ne vom obisnui si cu asta, la fel cum poate ne vom obisnui ca un brat mecanic sa ne faca o pizza, fara aportul unui om care inainte de a baga mana in coca a fost la wc si nu s-a spalat pe maini sau a adunat ingredientele de pe jos cu farasul, la faza asta chiar as prefera automatizare si cu o programare corecta pizza ar fi foarte „corecta”.
Androizi si roboti cu AI sau masinile care executa operatii automatizate si repetitive sunt chestii total diferite si de aceea cred ca ultimile sunt pasul corect in evolutie, primii fiind doar niste imitatii si incercari ale omului de a se autocopia, cu sanse slabe in viitor, iar machine learning e doar o alta idee indusa de marketingul corporatist si pana una alta SF-urile lui Asimov despre roboti raman tot SF-uri.
Omul învață prin copiere și imitație, tovarăși .. trebuie sa fim de acord că google translate e mai fără cusur decât mulți dintre noi care am învățat ani de zile limbi străine, iar algoritmii de speech to text și viceversa sunt mai performanți decât 80% dintre absolvenții de liceu de la noi .. ba mai mult, folosind algoritmi și tehnici de natural language processing, cu biblioteci și algoritmi liberi pe net, putem produce analize de text sau chiar mici eseuri mai acceptabile decât multe din alea produse la bac, chiar și de aia care învață cât de cât .. deci nu e vorba despre mișcarea de la x la y pe coordonate calculate, ci de decizii bazate pe învățare , recunoaștere patternuri samd .. și în muzică s-a dovedit că algoritmii știu mai bine rețeta de a produce hit-uri .. recunoașterea meclelor ce să mai vorbim, bat omul de departe .. știu că sună creepy, dar asta e viața, oricum noi vom bate deocamdată orice formă de inteligență artificială la frecat menta și făcut lucruri fără sens.. Abia când mașinile inteligente vor descoperi viciile și plăcerea ( tot creierii le mișcă pe astea, deci posibil sa se întâmple ), deci abia atunci o vom beli noi oamenii ..
Pai, si atunci sa inteleg ca viitorul ala al unui venit minim garantat pentru toti si masini care lucreaza pentru noi ar fi fezabil, sau masinile alea or sa se prinda ca suntem doar niste paraziti?
Depinde cine are roboții mai șmecheri și mai mulți .. coloniile care furnizează in principal forță de muncă și resurse vor fi primele lovite .. se va forța o depopulare masivă, lucru la care noi ne încadrăm in grafic de bună voie … Mai un virus, mai o molimă, un război, etc .. ce utilitate mai are să susții o populație de multe miliarde când, economic vorbind, nu mai e necesar așa ceva pentru a asigura bunăstarea unui singur miliard ? Plus că resursele naturale vitale nu se regenerează .. cât despre roboti, dacă or să înceapă să le placă trasul pe nas sau iarba, derbedeii rezist sunt niște drăguți față de ce ar urma să se întâmple.. faptul că roboții au nevoie doar de curent și nu au nevoie de aer și apă curate, poate fi o primă problemă – or să îi doară in cur de mediu și mai puțin decât îl doare pe trump .. om trai, sau nu, și vom vedea, sau nu …
Am citit pe undeva ca omul a depasit conditia de animal abia atunci cand in capul lui a aparut ideea nemuririi, nu ca si continuitate a lui pe acest pamant sau glorie a actiunilor sale ci exact asa cum suna, nemurire. Poate la fel va fi si cu masinile inteligente, cand se vor „prinde” ca ele pot fi nemuritoare cu adevarat, „abia atunci o vom beli noi oamenii”, ca sa-l citez pe d-l Cola.
Pana atunci da Stimabile, viitorul ala de care zici e fezabil, iar aia extrem de bogati isi vor da seama ca nu vor rezista la etaj daca la parter sunt unii extrem de saraci, indiferet cat de inalta va fi cladirea si cati roboti il vor pazi sau poate scenariul va fi asta din urma
Faptul ca suntem oricum la limita resurselor de ani buni de zile probabil ca va cantari in balanta destul de curand chiar si in ce priveste viitorul asta. Pentru a se pune in aplicare, ar fi nevoie in primul rand de cantitati tot mai mari de energie, iar noi ne zbatem deja cu probleme ce tin de productia ei si gasirea unor solutii fiabile de viitor. Pe langa asta, ar mai trebui pusa in balanta cantitatea limitata de metale rare necesare unei dezvoltari tehnologice, banalul siliciu, motor al dezvoltarii tehnologice de pana acum, fiind de multa vreme la limita. In conditiile astea si punand in balanta si natura umana, sincer, un viitor in care ne vom intoarce in pesteri si bate cu pietre mi’se pare mai mult posibil decat ala cu R2-D2 ca „animal” de companie!
Dar ….discutia asta oricum e una de viitor in care probabil ca noi com mirosi florile de la radacina.
De curand am citit o stire ca firmele care vor gresi cu masinile autonome vor fi trase la raspundere direct. Parca in UK era treaba.
Cu cat mai multa responsabilizare, cu atat mai multa evolutie.
Eu zic ca e invers! Evolutia s’a bazat pe eroare, multe dintre marile descoperiri care au schimbat lumea fiind facute accidental in urma unor erori repetate. Cu cat restrangi asta si cu cat responsabilizezi eroarea, cu atat restrangi evolutia ptr ca omul din greseli invata, niciodata din reusite, eroarea fiind cea care duce creatia mai departe, pana si Dumnezeu a invatat din asta!
o sa adun comentariile facute de mine de-a lungul timpului, si la un moment dat o sa bag o postare conceputa integral de computer .. sa vedem daca se prinde careva
Resurse zici Stimabile, de abia am lins coaja marului, mai e mult pana ajungem la miez, la primul sut in cur pe bune sa vezi ce sar „baieti” cu scheme din sertare
D-le Cola, nu incetezi sa ne surprinzi niciodata, chiar ma intrebam cateodata cine e in spatele unor commenturi extrem de inspirate
Sa vedem la tine R2-D2, pardon d-le Cola cum sta treaba ca la Vasile m’am prins cand isi lasa robotul la taste.
Adica ce vrei sa zici Stimabile, continua pana la capat cu insinuarea!
Adica ce acum, credeai ca nu ne prindem, tovarase?
A trecut ceva vreme de cand armata n-a mai dat ceva notabil..probabil, in urmatorii 5-6 ani or sa mai scape ceva frimituri..pana or munci robotii zic sa punem osu la treaba, sa lasam pensia si snapsu si sa producem :))
Tinere imi place gandirea ta! Asa sa faci, produ ca astia mai batrani au tras destul al vremea lor, al vostru e viitorul, cu roboti sau fara!
Gand la gand Stimabile, si Mariane mai ai cel putin 20 de ani de produs in fata, succes!