Wdrożyliśmy AI. I co dalej? Jak projektować realną współpracę ludzi i AI

Większość organizacji, z którymi pracuję, ma już AI za sobą. Licencje są kupione, pilotaże zakończone, polityka AI wisi na intranecie, a mimo to ludzie albo ignorują narzędzia, albo ufają im znacznie bardziej, niż powinni. Problemem rzadko jest sam model. Częściej chodzi o to, jak współpraca między ludźmi a AI została zaprojektowana albo jak jej nie zaprojektowano.

W tym wystąpieniu pokażę, co nauki behawioralne mówią o tym, jak ludzie naprawdę podejmują decyzje, gdy w procesie uczestniczy AI. Przyjrzymy się temu, dlaczego komunikaty o przejrzystości wymagane przez AI Act tracą skuteczność już po kilku ekspozycjach, dlaczego sama informacja rzadko zmienia zachowanie i jak nadmierne poleganie na AI oraz jej ciche odrzucanie wyrastają z tych samych luk projektowych. Na przykładach z projektów w dużych organizacjach omówię FASCAI, praktyczny sposób decydowania, które zadania można w pełni zautomatyzować, gdzie AI powinna jedynie podpowiadać, a gdzie człowiek musi zwolnić i zweryfikować wynik. Pokażę też, jak kalibrować zaufanie, zamiast po prostu próbować je zwiększać.

Wyjdziesz z behawioralną perspektywą, przez którą spojrzysz na własny produkt AI lub narzędzie wewnętrzne, oraz z kilkoma pytaniami, które warto zadać przed kolejnym wdrożeniem.