Commity.cz sdílí příspěvek kolegy
Nemáme na to čas: nikdo. Nevěříme výsledkům nebo bezpečnosti: 9 z 31.
Tak dopadlo hlasování na semináři Kraje Vysočina minulý čtvrtek, když jsem se ptal, co by firmám bránilo zkusit AI na vyplňování dotazníků od odběratelů. Těsně předtím viděli ukázku: osm dokumentů smyšlené firmy, dotazník se 62 otázkami a na konci vyplněný Excel se zdrojem u každé odpovědi. Jistá nedůvěra je na místě - realita nikdy nebývá tak růžová, jak to vypadá na jednoduchém demu.
Takže jsem ukázal i to, na co časem pravděpodobně narazí. Výrobní postup se změní, ale AI dál odpovídá podle starého. Směrnice je v rozporu s loňským dotazníkem a AI si vybere jedno z toho. Při špatně nastaveném účtu se z vašeho firemního know-how učí veřejný model. Když už všechno krásně funguje, přestanete to kontrolovat. A ono to jednou selže a chyba odejde až k zákazníkovi.
Na ten poslední problém padl z publika tip: záměrně do výstupu občas podstrčit chybu a sledovat, jestli ji kontrola zachytí. Aby lidi neztráceli ostražitost. Tak jako piloti občas musí přistát manuálně, aby to kvůli autopilotovi úplně nezapomněli. A i na ostatní problémy řešení existují. Jen je potřeba si je uvědomit.
26 z 29 hlasujících chce příště jít víc do hloubky, takže s Krajem Vysočina plánujeme pokračovat. Co byste chtěli slyšet vy?
