https://katja-diehl.de/rainer-muehlhoff ... kompetenz/
katja-diehl.de
Rainer Mühlhoff: Proč je podle vás humbuk kolem umělé inteligence v automobilovém průmyslu projevem zoufalství, a ne kompetence?
13-16 minut
Pokud se vám tato nebo jiná epizoda líbí, zanechte prosím recenzi a/nebo mě podpořte prostřednictvím Ko-Fi nebo PayPal. Můžete se přihlásit k odběru mého týdenního zpravodaje na adrese steady. Mou druhou knihu "Raus aus der AUTOkratie - rein in die Mobilität von morgen!" si nyní můžete předobjednat. Budu rád, když to uděláte, protože to pomáhá výklenkovým knihám literatury faktu, jako je ta moje, aby si jich někdo všiml. Znáte to: kapitalismus - kapitalismus - a pak ráj pro všechny. Právě jsem začal zpřístupňovat přepisy všech podcastů, aby se na mém obsahu mohlo podílet ještě více lidí, kteří neradi poslouchají nebo špatně slyší.
Rainer Mühlhoff je prvním profesorem v Německu, který se specializuje na etiku umělé inteligence. Etika je pro něj reflexí lidí a společnosti, "co si svým chováním způsobujeme", protože vývoj technologií má vždy silný společenský dopad. Utvářejí naši realitu, utvářejí naše myšlení, utvářejí mocenské struktury. Pro Rainera je důležité, že systémy strojového učení je třeba vždy analyzovat jako sociotechnické systémy. Komerční využití umělé inteligence není umělé - a ani nijak zvlášť inteligentní -, ale je založeno na obvyklých mocenských strukturách, kdy pracovníci s kliknutím poskytují potřebné vstupy a uživatelé trénují umělou inteligenci. Nejlepší příklad: captchas. To se však také ukazuje: Umělá inteligence nenahrazuje lidskou inteligenci, ale v současné době je jí stále omezována.
Na svém oddělení v Osnabrücku se zaměřuje právě na tento aspekt; naštěstí je v současné době velká poptávka i po etice v umělé inteligenci, která byla dosud často opomíjena.Mnoho společností zabývajících se umělou inteligencí dokonce spolufinancuje ústavy, které se tímto výzkumem zabývají.Tomu se říká ethics-washing, což je forma PR práce, která má ukázat, že se přijímá společenská odpovědnost.Jedinou motivací je zabránit přísnější regulaci.Výzkum v Osnabrücku je však financován státem, a proto je nezávislý.To je pro Rainera nesmírně důležité: "Etika nebo etické otázky jsou pro nás vždy otázkou moci.Komu to prospívá, komu ne?Jaké jsou skryté zájmy? Jaké formy diskriminace má například účinek určité technologie? Jaké jsou nové mechanismy vykořisťování, zejména v digitálním kapitalismu? Které zranitelné skupiny jsou vykořisťovány?" Technologie umělé inteligence jsou vytvářeny velkými společnostmi, které podléhají ekonomickým zájmům a jsou součástí globálního kontextu moci a tvorby hodnot.
Problémem je, že obecné povědomí o technologiích umělé inteligence zatím není vysoké, mimo jiné proto, že poskytovatelé těchto technologií neprezentují své produkty aktivně, ale maskují se za užitečné aplikace nebo jiné virtuální služby, které usnadňují život nebo mají tak vysokou penetraci na trhu, že se zdá nemožné je "jako jediné" nepoužívat. Podmínky používání nikdo nečte, a tak souhlasíme se shromažďováním a používáním našich údajů k dalším účelům, aniž bychom si uvědomovali jejich rozsah.Rainer proto vnímá etickou práci, kterou jeho výzkum nabízí, jako práci na zvyšování povědomí.Zkoumá pozadí a poskytuje informace, aniž by uživatelům předepisoval, jak mají s těmito novými poznatky naložit.Toto rozhodnutí je na každém jednotlivci.Prvním krokem v takovém programu zvyšování povědomí je uvědomit si, že se vždy jedná o obchodní model.Pokud tedy lze službu nebo aplikaci používat zdarma, uživatelé za ni přesto platí - obvykle velmi osobními údaji.Někdy dokonce s údaji třetích stran, které máme jako telefonní čísla nebo fotografie ve svých chytrých telefonech.
Proč se tyto údaje shromažďují? Především proto, abychom byli schopni rozpoznat rozdíly mezi lidmi. Aby bylo možné ještě více přizpůsobit reklamu nebo zdražit pojistnou smlouvu na základě již existujících onemocnění dané osoby.Umělá inteligence se také stále častěji používá v prvních fázích procesu žádosti o pojištění, aby se celý proces urychlil.Pokud údaje naznačují, že osoba trpí duševní chorobou, není pozvána na pracovní pohovor."Perfidně," říká Rainer, "se může stát, že potvrzení dostanou i další lidé.Údaje, které poskytujeme, slouží zejména k rozpoznání dalších lidí jako deviantů."Všichni znáte větu: "Nemám co skrývat, ať mají moje údaje, ať zavedou požadavek jasného jména." Tohle je pro mě velmi důležité. K rozpoznání lidí, kteří se skutečně mají čeho bát, jsou potřeba údaje 100 milionů lidí, kteří se považují za normální. "To znamená, že to, co děláme, poškozuje především kolektiv, tj. způsobuje společenské škody. Škodu, která se zhmotňuje nejen na našich vlastních účtech, ale i na účtech ostatních, kteří jsou potenciálně slabší."
Jedním z pojmů je prediktivní analýza. Jedná se o aplikace umělé inteligence k předvídání věcí, které nejsou o lidech známy, protože je tají nebo je prostě sami neznají. Patří sem například "vyčtení" náboženské příslušnosti, politických názorů, sexuální orientace jako záměrně zatajované informace a predispozice k rakovině a duševním chorobám z údajů o chování, i když postižení tyto diagnózy ani nedostali. V USA lze podle takového hodnocení rizik individuálně vypočítat cenu zdravotního pojištění.V Německu je cena pojištění automobilů stejná.Existují tarify, kde musíte kvůli odečtům registrovat svůj účet na sociálních sítích, nebo dokonce vozit v autě měřící zařízení, které dokumentuje vaše chování při řízení.U tohoto tarifu platíte zpočátku nižší pojistné.Pomocí umělé inteligence se pak vytvoří profil rizikového chování a cena pojištění je levnější nebo dražší.
Rainerovi se zdá, že automobilový průmysl, zejména ten německý a evropský, je velmi zoufalý z toho, že je nyní naprosto nezbytné vyvíjet umělou inteligenci, aniž by o tom předem vážně uvažoval. Podle něj tento průmysl již sám zaspal digitalizaci. Jediným výrobcem automobilů, který se k ní od počátku hlásí, je Tesla. "Tesla funguje jako chytrý telefon a má stejný software jako chytrý telefon, ale stejně jako chytrý telefon je také plná senzorů, které neustále odesílají svá data na servery. Tesla neustále zaznamenává vše, co se děje kolem vozu, a vše, co se děje ve voze.Tesla je chytrý telefon na kolech, ke kterému se sami připojujeme."Podle Rainera jde o vývoj, který německé automobilky vůbec nechápou kognitivně - naopak.Místo toho, aby vyvíjeli intuitivní systémy, potřebují návody k obsluze. Rainer tomu říká turbo AI-ismus, v narážce na turbokapitalismus, který není v německém a evropském automobilovém průmyslu vnitřně motivován, ale protože je třeba nabídnout investorům něco, co slibuje, že odvětví nebude převálcováno Teslou.
Rainer vidí kvalitní uplatnění umělé inteligence v oblasti mobility v decentralizovaném řízení dopravních toků. Plánování tras v Mapách Google je mnohem lepší než předchozí systémy, které pracovaly na základě map, protože Google může poskytovat informace přímo ze serveru v reálném čase. Proč tomu tak je? Protože každý chytrý telefon s modulem GPS je měřící sondou, která ukazuje, jakou rychlostí projíždíte kterou ulicí. Navádění na trasu je tedy také fenoménem kapitalismu platformy. Podle Rainera, kdyby to pocházelo z jiných zdrojů, například od datové společnosti, byl by to dobrý nástroj pro zefektivnění dopravy, šetrnější k životnímu prostředí a k úsporám zdrojů. Pochybuje však, že k tomu dojde, protože by to vyžadovalo regulaci. Výrobci automobilů v současnosti využívají umělou inteligenci spíše pro individualizaci soukromých vozů. Personalizovaná reklama, která nám přizpůsobí auto na míru.I zde za tím stojí obrovské množství nashromážděných dat od zákazníků, kteří si již auta koupili a jezdí s nimi.
Nyní záleží na nás, zda se dočkáme dalších dystopických scénářů, nebo lepší mobility. Mobilita založená na roji, mobilita na vyžádání, může doplnit veřejnou dopravu. Tím by se výrazně snížil počet stojících aut. "Pokud byste celou věc udělali chytře, vyhnuli byste se prázdným jízdám, tj. auto, které vás vyzvedne, odveze cestou k vám někoho jiného do jeho cíle. Pokud se nejedná o auta, ale třeba o malé autobusy, pak můžete cesty spojit tak, že vyzvednete někoho jiného, kdo má podobnou trasu jako vy. To je opravdu dobrá vize místní veřejné dopravy. Neřekl bych, že bychom neměli mít další S-Bahny a vlaky, ale úplně se jednotlivých tras nezbavíme. Ne každý může dojít na zastávku S-Bahnu pěšky, ne každý má zastávku S-Bahnu v přijatelné vzdálenosti, a už vůbec ne ve venkovských oblastech." Podle Rainera jsou k tomu potřebná data neuvěřitelně cenná, velmi citlivá data, která o lidech hodně vypovídají. Kam cestují, jaký je jejich další cíl, jaký je konečný bod cesty. Jen z těchto tří bodů, říká Rainer, lze jasně určit, zda patřím k subkultuře, náboženské komunitě, menšině, zda jsem byl v gay baru, do jakých dem chodím, kde nakupuji, chodím do školy, zda jsem školu vynechal. Pokud nebudete regulovat způsob, jakým něco takového budujete, stane se z toho v podstatě dystopie, rozšířená infrastruktura digitálních společností pro sběr dat. Pomohlo by, kdyby tyto údaje nebylo možné využít k jiným účelům. Ale to bude velká překážka, protože v současné době k tomu není žádná regulační vůle. Podle Rainera současná myšlenka samořízených aut nespočívá v tom, že bychom už nepotřebovali mít auto, ale jde o to, že auto stále stojí u silnice 23 hodin 47 minut denně a funguje jako výsada vlastnictví.
Podle Rainera je lepší vizí sdílená autonomní jízda na takové úrovni kvality, která nevyžaduje speciální pruhy nebo přejíždění dětí přes silnici. Mohly by být vymezeny oblasti, kam tato auta nevjíždějí. Se získaným prostorem by se mělo vrátit k zónám zcela bez aut, které vytvářejí místa pro setkávání, zatímco doprava se soustředí na hlavní osy. Podle Rainera je největší výzvou to, že už nemáme pozitivní vztah k veřejnému prostoru, protože jsme ho za posledních 120 let ztratili. Vnímat prostor na našem prahu, veřejný prostor, jako oblast, která vytváří pozitivní kvalitu života, jako místo setkávání, místo pro procházky, trávení času, výměnu názorů, pro neplánovaná setkání.
To je vidět i na nákupních centrech, privatizovaných veřejných prostorech s pravidly soukromého domu, která jsou podřízena čistě komerčním zájmům a vylučují lidi, kteří nemají důvěryhodný zájem o spotřebu.
Pokud se chcete o Rainerově práci dozvědět více, můžete tak učinit na www.RainerMühlhoff.de.
Jeho výzkum se věnuje mimo jiné jedné otázce:
Co je to vlastně umělá inteligence?
Vědci zde předkládají hypotézu, že systémy umělé inteligence jsou založeny na datech, která všichni denně produkujeme. Že AI by ani nebyla možná bez naší ochoty generovat data prostřednictvím technických služeb, aplikací a chytrých telefonů. Že tato umělá inteligence neexistuje v datovém centru, ale je to spíše technologicky dobře organizovaná inteligence roje, ke které každý z nás denně přispívá drobnými příspěvky. Tento pohled by nám měl umožnit dekonstruovat tuto velmi silnou vizi umělé inteligence a ukázat, že máme velkou páku na to, jak velkou část těchto systémů umožníme. Pokud totiž přestaneme být dostupní svým datům nebo sami sobě a svému životnímu prostoru, pak to tyto systémy již nebudou moci dělat. A co se týče regulačních návrhů, velmi intenzivně pracujeme na regulačních mezerách, které se právě teď objevují v souvislosti s nařízením o UI. Přesně tak, hodně se o tom dočtete na domovské stránce.
Rainer Mühlhoff
Kdo je online
Uživatelé prohlížející si toto fórum: Žádní registrovaní uživatelé a 0 hostů