Recenze čtenářů
Shrnutí:Kniha Stuarta Russella „Human Compatible: Umělá inteligence a problém kontroly“ se zabývá zásadní otázkou sladění pokročilé umělé inteligence s lidskými hodnotami. Předkládá přístupný přehled současných výzev a nebezpečí, které umělá inteligence představuje, a zároveň navrhuje zásady, které mají zajistit, aby umělá inteligence zůstala pro lidstvo prospěšná. Kniha upozorňuje na existenční rizika vývoje UI a vyzývá k novým přístupům při navrhování UI, které se zaměřují na pochopení a maximalizaci lidských preferencí.
Klady:Kniha je oceňována jako důležité a aktuální čtení, které se zabývá existenčními riziky UI. Mnozí recenzenti oceňují její přístupný styl psaní, díky němuž jsou složitá témata srozumitelná širokému publiku. Účinně nastiňuje nebezpečí současných přístupů k UI a navrhuje promyšlený rámec pro vytvoření sladěné UI. Celkově ji čtenáři považují za pronikavou a za cenný příspěvek k diskusím o etice a bezpečnosti UI.
Zápory:Kritici poukazují na to, že některé argumenty a pojmy v knize mohou být hutné a zdrcující, zejména pro čtenáře, kteří se s tématem UI teprve seznamují. Někteří recenzenti se domnívají, že druhá polovina knihy, která navrhuje řešení pro bezpečnou UI, postrádá proveditelnost a vychází z příliš ambiciózních předpokladů. Kromě toho se objevují výtky ohledně opakujícího se obsahu a potřeby zjednodušení v některých částech. Několik čtenářů také vyjadřuje skepsi k závěrům autora ohledně budoucích schopností UI.
(na základě 73 hodnocení čtenářů)
Původní název:
Human Compatible: Artificial Intelligence and the Problem of Control
Obsah knihy:
Přední výzkumník v oblasti umělé inteligence představuje nový přístup k umělé inteligenci, který nám umožní úspěšně koexistovat se stále inteligentnějšími stroji
V populárních představách je nadlidská umělá inteligence blížící se přílivovou vlnou, která ohrožuje nejen pracovní místa a lidské vztahy, ale i samotnou civilizaci. Konflikt mezi lidmi a stroji je považován za nevyhnutelný a jeho výsledek za příliš předvídatelný.
V této přelomové knize významný výzkumník v oblasti umělé inteligence Stuart Russell tvrdí, že tomuto scénáři lze předejít, ale pouze pokud umělou inteligenci od základu přehodnotíme. Russell začíná zkoumáním myšlenky inteligence u lidí a strojů. Popisuje přínosy, které můžeme očekávat v blízké budoucnosti, od inteligentních osobních asistentů po výrazně zrychlený vědecký výzkum, a nastiňuje průlomové objevy v oblasti umělé inteligence, které ještě musí nastat, než dosáhneme nadlidské umělé inteligence. Uvádí také způsoby, které už lidé nacházejí pro zneužití AI, od smrtících autonomních zbraní po virové sabotáže.
Pokud dojde k předpokládanému průlomu a vznikne nadlidská umělá inteligence, vytvoříme entity mnohem mocnější, než jsme my sami. Jak můžeme zajistit, aby nad námi nikdy neměly moc? Russell navrhuje, že můžeme umělou inteligenci přebudovat na novém základě, podle něhož jsou stroje navrženy tak, aby byly ze své podstaty nejisté, pokud jde o lidské preference, které mají uspokojovat. Takové stroje by byly pokorné, altruistické a odhodlané sledovat naše cíle, nikoliv jejich. Tento nový základ by nám umožnil vytvořit stroje, které by byly prokazatelně úslužné a prokazatelně prospěšné.
