[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 489: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 112: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 112: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 112: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 112: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 112: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/bbcode.php on line 112: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions_content.php on line 678: preg_replace(): The /e modifier is no longer supported, use preg_replace_callback instead
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions.php on line 4792: Cannot modify header information - headers already sent by (output started at [ROOT]/includes/functions.php:3887)
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions.php on line 4794: Cannot modify header information - headers already sent by (output started at [ROOT]/includes/functions.php:3887)
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions.php on line 4795: Cannot modify header information - headers already sent by (output started at [ROOT]/includes/functions.php:3887)
[phpBB Debug] PHP Warning: in file [ROOT]/includes/functions.php on line 4796: Cannot modify header information - headers already sent by (output started at [ROOT]/includes/functions.php:3887)
kozmoforum.hu • Téma megtekintése - MI = világvége?

MI = világvége?

Tudományos és egyéb hírek.

MI = világvége?

HozzászólásSzerző: Banzai » 2014.10.27. 13:38

Ennek a kis cikknek a megírását egy mai hír inspirálta aminek persze voltak már előzményei, ráadásul nem nagyon találtam olyan jó összefoglalást, ami alapján nagyjából lehetne tudni, hogy hogyan is állunk. Talán érdekes lehet az, hogy Elon Musk, napjaink vasembere, a Tesla és a SpaceX programok létrehozója az utóbbi hónapokban többször is felemelte hangját az MI (Mesterséges Intelligencia) ellen. Azt gondolom, ha ő ezt mondja, sok más komoly tudóssal együtt akkor arra oda kell figyelni. Miért most ütötték fel fejüket ezek az aggódó hangok, van-e alapja ennek a sokak szerint túlzott félelemnek?



Egy biztos, lassan de biztosan haladunk a cél felé, ami szerint hamarosan létre tudunk hozni, olyan, akár az emberi agynál is összetettebb, programozható de emellett öntanulással és döntéshozatallal is felvértezett szilícium esetleg neuron alapú konstrukciót amely eddig számunkra még ismeretlen világot rejthet. A kutatás nagyon izgalmas, persze emellett nagyon sok benne a fehér folt. Mint egy korábbi írásban említettem, fogalmunk sincs, arról hogy tulajdonképpen hogy jön létre a tudat, az intelligens tudat, és miként működik. Nem tudjuk, hogy a struktúra és a kapcsolatok száma az, amely képes megalkotni ezt az emergens minőséget, vagy nagyon fontos az is hogy milyen alkotókkal történik ez. Musk egész egyszerűen a szellem-idézéshez hasonlítja a folyamatot, amikor a megidézők azt hiszik, hogy kordában tudják majd tartani a létrejött démont, Hawking pedig úgy fogalmaz, hogy az MI az emberiség legnagyobb, de egyben utolsó találmánya lenne.

Kép

Sokan nem tudják de egyszerűbb MI rendszerek már régóta velünk élnek, ezen belül is vannak olyanok amik a közember számára elérhetőek, játékainkban, gépeinkben, internetes felületeinken illetve a másik nagy csoport, ami a K+F és a katonai világban jut szerephez. (Itt is érhető tetten a leggyorsabb fejlődés) Musk szerint a fő baj az, hogy a kutatásban résztvevők nem óvatosak. A Google – az ügy egyik élharcosa – épp januárban vásárolta fel fél milliárd dollárért a korábban a Facebook által is kinézett Deep Mind brit céget, amely az agy memoriaképzési folyamatait kutatja. A társaságnak 50–75 alkalmazottja van, és kifejezetten az olyan algoritmusokra specializálódott, amelyek lehetővé teszik a gépek számára, hogy az emberekhez hasonlóan tanuljanak. A deep learningnek nevezett technológia lényege, hogy nem mesterségesen próbálnak egy szoftvert mindennemű ismeretekkel ellátni, hanem képessé teszik a tanulásra, és összekapcsolják egy óriási adatbázissal, amelyből maga képes megszerezni és fejleszteni ismereteit. Persze a Facebook sem tétlenkedett a közösségi oldal nemrég a New York Egyetem mesterséges intelligenciával foglalkozó szakemberét, Yann LeCunnt igazolta le. Az IBM Watson nevű szuperszámítógépére épülő részleget hozott létre, olyan felhőszolgáltatást kínálva, amely mesterséges intelligenciát használó szolgáltatások és appok bevezetését teszi lehetővé. A Yahoo nemrég egy intelligens képelemző és felismerő algoritmust fejlesztő céget vett meg, amely ugyancsak hasonló elvű mesterséges intelligenciát alkalmaz.

Kép

Ezek a szolgáltatások emberi nyelven kommunikálnak, és komplex kérdésekre is képesek választ adni a big datában, vagyis egy hatalmas számítási felhőben tárolt adatbázis elemzésével. És akkor még nem beszéltünk Japánról és Koreáról. Emellett mindegyik IT óriás hatalmas pénzeket öl bele a fejlesztésekbe elég csak mondjuk az Apple által létrehozott és több 100 millió embert kiszolgáló SIRI programra gondolni, amely valós időben érti meg és értelmezi egyre nagyobb pontossággal az emberi kérdéseket. A verseny óriási, ugyanis minél jobb rendszert alkotunk, a profit annál nagyobb lesz. Az emberek imádják az MI-t, és szinte zabálják az ilyen termékeket. Emlékszem kb 20 évvel ezelőtt amikor a kis egyszerű számtógépes játékainkban megjelent egy végtelenül primitív de már valamilyen MI jegyeket mutató szereplő vagy folyamat, milyen öröm volt.

Kép

A technológiai mérföldkőnek tartott újdonságok, mint az autonóm autók, az IBM kvízshow-nyertes szuperszámítógépe vagy a digitális személyi asszisztensek csupán hasznos melléktermékei annak az elképesztő iramú, példátlan összegeket felemésztő és egyre szilárdabb elméleti alapokra építkező fegyverkezési versenynek, amit a világ informatikai óriásvállalatai vívnak egymással. A kísérleti laborok és K+F-központok mélyén minden bizonnyal olyan találmányok vannak születőben, amelyekhez képest a fent felsorolt újítások csak buta játékszernek tűnnek majd. Ezek mellett a fő hajtóerő a katonai felhasználás, ahol olyan önálló döntésre képes harci robotok és dronok kifejlesztése válik immáron nagyon közelivé, ami jelentősen csökkentheti az emberes bevetések kockázatát.

Kép

Szóval ma még úgy tűnik minden szép és jó, a célok nemesek, és érvelhetők. Csak hát sokan tartanak attól hogy a folyamat elszabadul. Jelenleg nem tudunk olyan fizikai törvényről, amely gátat szabna annak a számnak, amely meghatározza, hogy adott rendszerben hány alkotó és hány kommunikációs csatorna működhet egyszerre, és hozhat létre tudatos gondolkodást. Ahogy Irving Good 1965-ben megállapította, az embernél intelligensebb gépek folyamatosan javíthatnak magukon, amíg el nem jön az, amit Vernor Vinge, szingularitásnak nevez. Good ez alatt azt a lehetséges jövőbeli eseményt érti, amikor az emberfeletti intelligencia megjelenése miatt a technológiai fejlődés és a társadalmi változások felgyorsulnak, olyan módon és sebességgel változtatva meg a környezetet, amit a szingularitás előtt élők képtelenek felfogni vagy megbízhatóan megjósolni. Vinge ennél sokkal drasztikusabban fogalmaz, 1993ban megjelent esszéjében a következő kijelentést teszi: „Harminc éven belül meglesznek a technológiai eszközeink az emberfeletti intelligencia létrehozásához. Nem sokkal ezután az emberiség kora véget ér.” Na ez azóta is számos vitára, és elemzésre ad okot, többek között igen jó táptalaja a sc-fi irodalomnak. Vinge szingularitását gyakran úgy értik félre, hogy a szingularitás bekövetkeztekor a technológiai fejlődés üteme végtelen nagy lesz, mint egy matematikai szingularitásban. Valójában Vinge a kifejezést inkább fizikai, mint matematikai metaforaként használta: ahogy egyre jobban megközelítjük a szingularitást, modelljeink amelyekkel a jövőt megjósolhatjuk egyre bizonytalanabbakká válnak, hasonlóan ahhoz, ahogy a fizikai modelljeink egyre kevésbé lesznek használhatók, ha megpróbáljuk leírni a gravitációs szingularitásokat. Raymond Kurzweil a mesterséges intelligencia kutatásának legendás alakja a Moore törvény kiterjesztésével próbálta meg alátámasztani azt, hogy a szingularitás hamarosan bekövetkezik. A Moore-törvény egy exponenciális növekedési mintát ír le az integrált áramkörök összetettségében. Kurzweil ezt a mintát úgy bővítette ki, hogy az érvényes az integrált áramkörök megjelenése előtti és a jövőben megjelenő technológiákra egyaránt. Leírja, hogy amint egy technológia megközelíti a lehetőségei határait, egy új technológia jelenik meg, ami lehetővé teszi a folyamatosan gyorsuló fejlődést. Azt jósolja, hogy ahogy közelebb kerülünk a szingularitáshoz, ezek a paradigmaváltások egyre gyakoribbak lesznek. Kurzweil úgy hiszi, hogy a Moore-törvény által leírt exponenciális növekedés folytatódni fog az integrált áramkörök utáni technológiákban, és a folyamat végül a szingularitáshoz vezet. Mások még tovább mennek és azt állítják, hogy a technológiai szingularitás egyenes és elkerülhetetlen következménye az emberi és társadalmi evolúciónak.

Kép

Persze sokan teszik fel a kérdést, mi alapján tudjuk felmérni hogy éppen hogy állunk az MI-vel. Születtek különböző tesztek és módszerek ennek mérésére, talán az egyik legismertebb az úgynevezett Turing-teszt. Nagyon leegyszerüstve, itt akkor megy át a gép, ha a másik oldalon ülő ember nem tudja eldönteni hogy valós vagy M intelligenciával kommunikál.e? Kurzweil kollégájával, Mitch Kaporral kötött fogadást arról, hogy 2029-re sikerül-e egy számítógépnek átmennie a Turing-teszten. Kurzweil szerint sikerül, Kapor viszont úgy gondolja, 2029 előtt, de lehet, hogy utána sem fog ez bekövetkezni. 2002 áprilisában kötötték a fogadást, de Kurzweil már idén júniusban több telefonhívást kapott, ahol gratuláltak neki a győzelemhez. Őt ez inkább elszomorította. Bár többen köztük ő maga is kétségbe vonják ezeket a nyári eredményeket, de azért a tendencia figyelemre méltó.

Könnyű elképzelni, ahogy a technológia okosabb lesz a pénzügyi piacoknál, ahogy jobb feltalálók lesznek az emberi kutatóknál; ahogy kitúrják az emberi vezetőket, ahogy olyan fegyvereket terveznek, amiket egyre kevésbé értünk. Bár az MI rövid távú hatásai attól is függenek, hogy ki irányítja azt, a hosszú távú hatások inkább arról fognak szólni, hogy bárki irányíthatja-e ezeket. Nem véletlen hogy sok kutató az atomenergia megnyílásához szokta hasonlítani ezt az eseményt, rengeteg előnyt rejthet a felhasználás, de rengeteg veszéllyel is járhat. Igen ám, csak itt van egy nagyon fontos különbség, nem biztos hogy az ember fog dönteni. A digitális boom után egy újabb ipari forradalom eljövetelét jósolják sokan, többek között ezért is vagyok szinte biztos hogy DGY-vel kötött Mars-fogadásomat megnyerem, mert egyszerűen olyan mértékű a fejlődés, sokkal nagyobb haszna és sokkal kisebb kockázata lesz ragyogó MI-vel ellátott robotokkal megszórni a bolygókat, mint bárkinek az életét is kockáztatni egy ilyen rettentő veszélyes küldetésben. Emellett ahogy korábban utaltam rá, a tudományban is jelentősen átveheti a szerepet az MI, többen egészen odáig mennek, hogy a következő nagy felfedezéseket, esetleg a nagy egyesítést is már a MI-k fogják megalkotni. A gépek 'evolúciója' sokkal gyorsabb és célirányosabb mint az emberé. Sőt az MI megalkotásában sokkal nagyobb szerep jut az emberiség kollektív gondolkodásának, ezért ha ennek mintájára alkotjuk meg, akkor már itt az 'indulásnál' egy szinttel saját magunk fölé helyezzük a tudásukat.

Kép
banz.
Avatar
Banzai
 
Hozzászólások: 1269
Csatlakozott: 2014.03.14. 19:22
Has thanked: 155 times
Been thanked: 113 times
Név:

Re: MI = világvége?

HozzászólásSzerző: laikus » 2014.10.27. 16:44

Számomra ez nagyon érdekes cikk! :)
Mi van, ha ez a szuper-intelligencia, szuper-agy már a maga embrionális formájában működik is? Mi emberek töltenénk be a neuronok vagy a szürkeállomány szerepét az internet meg sok minden mással pedig magát a kapcsolódások hálózatát, a szinapszisokat...?
laikus
 

Re: MI = világvége?

HozzászólásSzerző: Banzai » 2014.10.27. 17:58

banz.
Avatar
Banzai
 
Hozzászólások: 1269
Csatlakozott: 2014.03.14. 19:22
Has thanked: 155 times
Been thanked: 113 times
Név:

Re: MI = világvége?

HozzászólásSzerző: Rigel » 2014.10.27. 18:38

Csak számomra gyanús, hogy akárhányszor számítógép-guruk, kibernetikus-zsenik és MI-próféták megszólaltak, mindig pontosan 20-30 év múlva ébred öntudatra a mesterséges intelligencia? És ez így megy a hatvanas évek óta. (2014-et írunk.)

Szerintem az emberi idegrendszer képességeit elérő mesterséges intelligencia még vagy többszáz évnyi távoli jövőben van. Az egész MI hype Alan Turingnak azon a matematikailag helyes, de gyakorlatilag használhatatlan meglátásán alapul, hogy bármely számítógép megfelel egy egyszerű Turing-gépnek, azaz egy szimpla szekvenális Turing-gép bármely algoritmikus számítógépet oly módon emulálhat, hogy a végeredmény szempontjából nem különböztethető meg az emuláció az eredetitől.
Tényleg, ez matematikailag bizonyítható és így van. A probléma ott van, hogy hiába igaz ez az elméleti számítógépekre, nem terjeszthető ki a biológiai idegrendszerekre, mivel azok heurisztikus algoritmusokat futtatnak és nem matematikailag egyértelmű algoritmusokat. Lehet, hogy Turing igazolta, hogy az egyik egyértelmű algoritmust futtató számítógép ekvivalens a másik egyértelmű algoritmust futtató számítógéppel, de mivel az emberi agy nem-egyértelmű algoritmust futtat, az egész irreleváns: semmi sem támasztja alá matematikailag, hogy az idegrendszer precízen pontosan helyettesíthető valamilyen mesterséges eszközzel úgy, hogy a végeredmény szempontjából megkülönböztethetetlenek legyenek.

Természetesen ettől függetlenül biztosan helyettesíthető, csak SOKKAL BONYOLULTABB PROBLÉMA, mint ahogy azt az MI kutatói hiszik. Ezért vélem úgy, hogy még évszázadokra vagyunk a mesterséges intelligencia öntudatra ébredésétől.

A tudat (vagy szélesebb kontextusban a biológiai idegrendszer) félmilliárd éves evolúció folyamatos felhalmozásának a terméke. Az evolúció pedig olyan barkácsoló, aki soha nem dob ki semmit, csak hozzáépít a működőképes rendszerhez, folyamatosan bonyolítva azt. Az emberi idegrendszer többtízezer, sőt százezer(!) modul (szubrutin) kibogozhatatlan halmaza, és ezeknek a nagytöbbsége nem is tudatos, viszont ha nem lennének, akkor maga a tudat sem létezhetne. Megszámlálhatatlan olyan rutinnal rendelkezhetünk, amelyek a legkorábbi idegrendszerrel rendelkező ősünkben lettek bedrótozva, valamikor az ediacarai Pikaia-ősök korában. Hogyan képzeli bárki is azt, hogy ezt a munkát pár évtized számítástechnika után pontosan le tudjuk másolni?
Itt van például az érzelmek esete. A biológiai idegrendszerekben az érzelmek olyan "globális" módosítófaktorok, amelyek a teljes komputációt az alapjainál befolyásolják, a rendszert sok tekintetben egy szögesen más működési állapotra állítják át. Adrenalin, szerotonin, tesztoszteron, ösztrogén, hogy csak néhányat említsek az általános hatású módosítókból. Felmerült bárki MI kutatóban, hogy a mesterséges intelligenciájukba implementálni kéne ezekhez hasonló globális faktorokat? Olyanokat, hogy mondjuk X hertzes rádiósugárzásban fürdő mikroprocesszor számára a 2*2 eredménye nem "négy", hanem "hagyjál már békén, elmentem virágot szedni"? (És természetesen olyan részegység is kell, ami megfelelő körülmények között ezeket a módosítófaktorokat ki- és bekapcsolja.) Ha valaki most el kezdene tiltakozni, hogy ez lényegtelen az MI szempontjából, akkor felhívnám rá a figyelmét, hogy az emberi intellektuális teljesítmény legalább akkora részben az érzelmek eredménye, mint amekkora részben a logikáé. Ha valaki épít egy tökéletesen logikus MI-t, akkor az meg sem fogja közelíteni a félmilliárd éves evolúció csiszolta érzelmi rendszerrel rendelkező biológiai idegrendszer teljesítményét. Persze ez utóbbi hibázhat is, de pont ebből az okból eredően nagyságrendekkel jobb teljesítményre is képes lehet. És ez szerintem még évszázadokig így is marad.

These users thanked the author Rigel for the post:
dgy
Rating: 11.11%
 
Avatar
Rigel
 
Hozzászólások: 525
Csatlakozott: 2014.03.13. 22:17
Has thanked: 40 times
Been thanked: 140 times
Név:

Re: MI = világvége?

HozzászólásSzerző: Banzai » 2014.10.27. 19:23

banz.
Avatar
Banzai
 
Hozzászólások: 1269
Csatlakozott: 2014.03.14. 19:22
Has thanked: 155 times
Been thanked: 113 times
Név:

Re: MI = világvége?

HozzászólásSzerző: Rigel » 2014.10.27. 20:46

Avatar
Rigel
 
Hozzászólások: 525
Csatlakozott: 2014.03.13. 22:17
Has thanked: 40 times
Been thanked: 140 times
Név:

Re: MI = világvége?

HozzászólásSzerző: Banzai » 2014.10.27. 21:11

banz.
Avatar
Banzai
 
Hozzászólások: 1269
Csatlakozott: 2014.03.14. 19:22
Has thanked: 155 times
Been thanked: 113 times
Név:

Re: MI = világvége?

HozzászólásSzerző: dgy » 2014.10.27. 21:25

Egyetértek Rigellel, az emberi tudat modellezése és utánzása még fényévekre, és évszázadokra van.

Azok a bizonyos "legpesszimistább jóslatok" nyilván a fejlesztésben érdekelt szakkörökből származnak...

Néhány megjegyzés:

- A csoporttudat és a csoportorganizmus, egyáltalán a szupraindividuális emberi szerveződés ügyében tessék elolvasni Csányi Vilmos alapművét: "Az emberi természet"-et. Ebből egyebek mellett kiderül, hogy a "csoportlény" kifejlődésén már rég túl vagyunk, jelenleg épp felbomlásának utolsó perceit éljük.

- A merev, algoritmikus, programvégrehajtó számítógépek gödeli problémája és a heurisztikus emberi gondolkodás közti ellentét meghaladásának egy érdekes (és szerintem a jövőben valószínűleg felhasználandó) ötlete olvasható Stanislaw Len "Non serviam" című novellájában.

Gondolkozó gépekkel tehát még sokáig nem kell számolnunk. A vázolt veszély viszont szerintem valós. Nem abban az értelemben, hogy az öntudatra ébredő gépek saját tudatuk és saját érdekeik által irányítva az emberiség ellen fordulnak, hanem úgy, hogy a félig-meddig (de teljesen mechanikusan) döntésképessé tett gépek annyi terhet vesznek le az emberek válláról, hogy több felelősséget és több döntési jogosítványt adunk át nekik, mint kellene. Miközben a programozásuk nem lesz elég komplex, senkinek sem lesz ideje végiggondolni, végigelemezni, megfelelő döntési sémával ellátni és leprogramozni a lehetőségek teljes és bonyolultan elágazó fagráfját. Nyugodtan előfordulhatnak olyan helyzetek, amikor pl egy kórházat irányító számítógép, aminek igen magas priorítású célja a költségek minimalizálása, egy központi áremelés hatásait kikompenzálandó kikapcsolja a lélegeztető gépeket. Hiába van belé programozva az is, hogy az embereket nem szabad megölni - lehet, hogy végigszámolja a "véralgebrát", ami arra vezet, hogy ha a kórház négy hónap múlva csődbe megy, és bezárják, akkor sokkal több lesz az áldozat, és ezt megakadályozandó érdemes leállítani az intenzíven fekvő öt beteg kezelését. Mi ezt gyilkosságnak éljük meg (eközben nem számolunk azzal, mi lesz négy hónap múlva a sok beteggel), és felháborodunk, pedig a gép nem volt gonosz, csak végrehajtotta a programot, sőt logikusan összehasonlította a lehetőségeket, és optimálisan döntött. Ha egyre több ilyen rendszer lesz, egyre többször fordulhatnak elő ilyen esetek, és egyre kevésbé tudjuk kontrollálni - leginkább azért, mert idő és szakember sem lesz arra, hogy utánanézzenek, mi volt a hiba. Aki próbált más a sok százezer soros Windows programban vagy valamelyik rokonában utánanézni, mi lehet a hiba, az tudja, hogy ez reménytelen. Marad a shut down. Az első ilyen esetekben a felháborodott közönség óhajára kikapcsolják a számítógépet, és visszatérnek a kézi vezérlésre - ettől valószínűleg még hamarabb csődbe megy a kórház. De amíg a komputeresek a programot bújják, húsz hasonló eset következik be, egyre gyorsuló ütemben.

És mindeközben szó sincs arról, hogy az MI értelmes lenne, tudatosan döntene "gonosz", "embertelen" módon. Szimpla robot, elszabadult gép, mint a vezető nélkül elengedett úthenger, nem válogat, mit tapos el. Az a felelős, aki felelőtlenül rábízta százak vagy milliók életét. És ez hamarosan, néhány éven belül megtörténik - egyszerű kényelmi és költséghatékonysági okból.

Sőt már meg is történt.
http://hvg.hu/vilag/20120128_new_york_aramszunet_halal/
Amikor az 1965-ös észak-amerikai vagy a 2003-as New York-i áramszünet alatt jónéhányan meghaltak a liftbe szorulva vagy betegen a lakásukban, segítség nélkül maradva, mindez azért következett be, mert az automatika sorra lekapcsolta a túlterheléssel kűzdő erőművi blokkokat. Nem gonoszságból, nem tudatosan, hanem mert így volt programozva, technikai szempontból helyesen.

Eza helyzet minőségileg nem, csak technikai részleteiben különbözik az általam fentebb leírt szituációtól. Attól, hogy a számítógép a képernyőre kiírja, vagy érzelmes női hangon bemondja, hogy nagyon sajnálja a halálos áldozatokat (ilyen programrészletet feltétlenül be fognak építeni), még éppoly ostoba, nem gondolkodó, mechanikus parancsvégrehajtó rendszer marad, mint az 1965-ös, jelfogókkal működő, vagy a 2003-as, már chipek vezérelte automatika volt. Nem kell ahhoz valódi MI, "gépi gondolkozás", hogy a gépekre átruházott felelősség és döntési kompetencia a szó szoros értelmében mindnyájunk életét veszélyeztesse.

:(
dgy
Avatar
dgy
 
Hozzászólások: 1737
Csatlakozott: 2014.03.12. 21:40
Tartózkodási hely: Budapest
Has thanked: 111 times
Been thanked: 831 times

Re: MI = világvége?

HozzászólásSzerző: Rigel » 2014.10.27. 21:27

Avatar
Rigel
 
Hozzászólások: 525
Csatlakozott: 2014.03.13. 22:17
Has thanked: 40 times
Been thanked: 140 times
Név:

Re: MI = világvége?

HozzászólásSzerző: Banzai » 2014.10.27. 23:26

banz.
Avatar
Banzai
 
Hozzászólások: 1269
Csatlakozott: 2014.03.14. 19:22
Has thanked: 155 times
Been thanked: 113 times
Név:

Következő

Vissza: Hírek a nagyvilágból

Ki van itt

Jelenlévő fórumozók: nincs regisztrált felhasználó valamint 0 vendég