Wyjaśnić, jak myśli sztuczna inteligencja
W raz ze wzrostem mocy obliczeniowej komputerów do łask naukowców powróciła sztuczna inteligencja oparta na sieciach neuronowych. Z dużym powodzeniem wykorzystuje się już je m.in. do przetwarzania i wyciągania informacji z obrazów, do analizy języka, do zarządzania systemami chłodzenia elektrowni atomowych czy do nauki o tym, jak skręcają się białka.
Sieci neuronowe są przydatne, ale enigmatyczne. Gdy za ich pomocą analizujemy problemy lub coś przewidujemy, często okazują się precyzyjniejsze niż inne podejścia z dziedziny statystyki, ale nie umiemy dokładnie prześledzić, w jaki sposób osiągają lepsze wyniki. Czy więc bezpieczne jest korzystanie z modeli, których działania nie jesteśmy w stanie w pełni zinterpretować? I jak naukowcy próbują okiełznać niepewność związaną z używaniem skomplikowanej sztucznej inteligencji?
Rozumienie procesu „myślenia” sztucznej inteligencji (SI) opartej na sieciach neuronowych jest ważne z kilku powodów. Po pierwsze, człowiek, wykorzystując doświadczenie własne i nieskwantyfikowane dane, może się wspomagać sztuczną inteligencją, ale do tego oba podmioty potrzebują „wspólnego języka”. Tymczasem w tych modelach nie wiadomo, gdzie nanieść ekspercką korektę. Po drugie, ludzie umieją przenosić wnioski między dziedzinami – aby potrafiła to zrobić SI, trzeba umieć „przetłumaczyć” modele między kontekstami, a to jest trudne, gdy nie rozumiemy mechanizmów modelu. Po trzecie, modele z danych powinny nam pomagać wymyślać nowe koncepcje i mechanizmy teoretyczne, a gdy nie wiadomo, co rządzi danymi, trudno zainspirować fizyków, psychologów czy ekonomistów do nowych pomysłów. Wreszcie, po czwarte, żeby dopuścić modele sztucznej inteligencji do naszego życia, musimy mieć pewność, że są bezpieczne. Tymczasem ani nie da się weryfikować ich mechanizmów, ani nawet za bardzo śledzić kolejnych kroków ich działania, by monitorować bezpieczeństwo.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.