BF #23.15: Věříš výstupu Ai, strojové inteligenci?

Petr byl nadšený technologiemi a vždy toužil mít doma nejnovější spotřebiče. Když se mu naskytla možnost testování nové chladničky s funkcí "inteligentního řízení", nemohl odolat a vstupil do testovacího programu. Chladnička měla schopnost sledovat, co je uvnitř, a na základě toho navrhovat recepty, upozorňovat na spotřební lhůtu potravin a dokonce objednávat potraviny online.

První týden byl Petr nadšený. Chladnička mu posílala upozornění na jeho iphone a dokonce mu navrhovala recepty na večeři. Ale postupem času si všiml několika podivností. Chladnička začala objednávat potraviny, které nikdy nekupoval, a některé z jeho oblíbených potravin byly vždy vynechány. Že by využívala GPT které halucinuje?

Jednoho dne dostal Petr e-mail od neznámého odesílatele, který tvrdil, že má přístup k jeho datům z chladničky a požadoval výkupné v kryptoměně. Petr byl se zasmál a myslel, že se někdo zbláznil a spletl si ledničku s kamerou. Jak mohl někdo získat přístup k jeho datům? Po konzultaci s vývojáři ledničky, že chladnička byla řízena pomocí AI, a OS byl napaden malwarem. Tento malware nejenže zkresloval funkce chladničky, ale také odesílal Petrovy osobní údaje a nákupní návyky hackerovi.

Petr chladničku smutně vypnul, i když do jisté míry to byla zábava. Uvědomil si, že v éře chytrých spotřebičů je důležité nejen sledovat jejich funkce, ale také zabezpečení a ochranu soukromí a spotřebiče tím pádem vůbec chytré nejsou.

Projektant elektrických zařízení
... víra v výstupy AI závisí na konkrétním kontextu a aplikaci ... mnohdy lze uvěřit AI, pokud jde o analýzu a optimalizaci některých obvodů, protože AI může pomoci identifikovat složité vzory a návrhy, které by byly obtížné nebo nemožné nalézt ručně ... důvěra může být opřena o konkrétní výsledky a přínosy, které AI přináší do projektování a řízení ... v oblasti návrhu elektrických zařízení je důležité mít jasnou představu o tom, jak systém reaguje na různé podněty. Pokud jsou data zkreslená, může to vést k návrhu, který není optimální ... pokud může AI nabídnout lepší řešení, měli bychom ho zvážit ... zpracování velkého množství dat může být také užitečné při analýze složitých systémů ...

Revizní technik elektrických zařízení
... jsem opatrný vůči výstupům AI, zejména pokud jde o bezpečnostní a závažné technické hodnocení elektrických zařízení ... pro konkrétní účely revize potřebuji validovaná data ... chat GPT představu o použitelnosti oopravdu shazuje! ... sebemenší halucinace dat může vést k nesprávným závěrům během revize ...

Elektromontér
 ... více se spoléhám na své vlastní dovednosti a zkušenosti, zejména při fyzické instalaci elektrických systémů ... důvěra v AI by mohla být ovlivněna tím, jakým způsobem AI přispívá k mé skutečné práci, například v případě asistenčních nástrojů pro optimalizaci rozvržení kabelů ... ale to je zatím hluboká sci-fi

Údržbář elektrických systémů
... pro prediktivní údržbu a rychlé diagnostiky problémů se AI přímo nabízí ale co jistota výstupů ... důvěra v AI by mohla být postavena na ověřených schopnostech samotné AI ...  AI musí bý správně školená a kalibrovaná pro konkrétní systémy, které údržbář spravuje ... pokud model není transparentní, může to ztížit diagnostiku a opravu problémů ... nespolehlivost dat může vést k nesprávným opravám ...