Pułapka wiarygodnych halucynacji – suwerenność technologiczna nowym wyznacznikiem dojrzałości przedsiębiorstw [raport]

– Największym zagrożeniem nie są dziś awarie systemów, lecz błędne odpowiedzi podawane z absolutną pewnością siebie. W przeciwieństwie do awarii, które są zwykle szybko zauważane, błędne odpowiedzi mogą niezauważenie przenikać do procesów decyzyjnych i utrwalać się w zbiorowej inteligencji organizacji – zauważa Jakub Wodziński, Lead Data Scientist w Capgemini Polska. – Modele generatywne projektowano z myślą o optymalizacji płynności i spójności wypowiedzi, a nie faktycznej poprawności. W efekcie stworzyliśmy rozwiązania, które nie potrafią przyznać się do braku wiedzy, a kontrolujący je ludzie, uśpieni ich kompetencją językową, wskutek rutyny mogą przeoczyć krytyczne błędy.

– Uzależnienie strategicznych procesów od zewnętrznych modeli chmurowych przypomina podpisanie umowy najmu bez gwarancji stabilności czynszu – wskazuje Jakub Wodziński, Lead Data Scientist w Capgemini Polska. – Większość firm w rzeczywistości nie posiada własnej inteligencji cyfrowej, lecz jedynie udostępnia swoje dane zagranicznym dostawcom. Suwerenność technologiczna oznacza przejście na własne, dziedzinowe modele SLM, których wagi i dane treningowe pozostają pod pełną kontrolą przedsiębiorstwa, dając odporność na wstrząsy geopolityczne.