Samochód przepisów nie złamie

Kiedy samolot się rozbija z winy autopilota, wówczas natychmiast wycofuje się to oprogramowanie z rynku. Czy w przypadku samochodów autonomicznych będzie tak samo? To byłby kiepski biznes: pompować pieniądze w systemy, które będą zakazane po pierwszej kraksie.

W razie potrzeby będziemy naprawiać wadliwe oprogramowanie. Tak jak to robimy w przypadku częściowo automatycznych systemów zamontowanych w obecnych samochodach.

Jest więcej analogii do samolotów, bo niemiecki rząd zaproponował, żeby samochody ze sztuczną inteligencją (dalej: SI) miały czarne skrzynki. Wasze pojazdy na pewno będą się rozbijać, może nawet częściej, niż wam się to wydaje.

Rzeczywiście będziemy dostarczać do samochodów autopilota podobnego do tego z samolotów, ale pamiętajmy, że w kokpicie jest dwóch żywych pilotów, wytrenowanych do działania w momencie jakiejkolwiek awarii czy nawet podejrzenia usterki. Jeśli coś jest nie tak, to piloci są zobowiązani do przejęcia kontroli nad samolotem. My nie chcemy, żeby kierowca musiał obserwować jazdę systemu, chcemy zaoferować mu system, na którym będzie mógł polegać. Czarna skrzynka w samochodzie będzie po to, żeby w razie wypadku odtworzyć sytuację i sprawdzić, czy zawinił system, czy też inny uczestnik ruchu drogowego. Samochody autonomiczne będą uczestniczyć w wypadkach, ale to nie oznacza, że z powodu błędu systemu SI. W ruchu drogowym mamy wielu uczestników: pieszych, rowerzystów, a także autobusy czy inne pojazdy motorowe prowadzone przez ludzi, które nadal będą w użyciu.

Kiedy na drodze będą zarówno samochody autonomiczne, jak i standardowe, to - jak pokazują testy Google’a i Ubera - może dochodzić do wypadków spowodowanych nietypowym zachowaniem pojazdów z SI. Wyobrażam sobie, że będziecie się spotykać w sądzie z kierowcami albo ubezpieczycielami i wywijać czarną skrzynką, udowadniając, że wypadek nie był waszą winą.

Nie uważam, żebyśmy mieli więcej wypadków z udziałem autonomicznych samochodów, niż mamy obecnie z powodu prowadzenia pojazdów przez kierowców. Systemy nie popełniają tylu błędów, ile ludzie - 90 proc. wypadków powstaje z powodu błędu człowieka. Samochody autonomiczne będą bezpieczniejsze. Będziemy je programować w taki sposób, aby zachowywały się bardziej defensywnie niż człowiek, może nawet jeździły nieco wolniej - a na pewno zgodnie z przepisami. Będą zostawiać więcej przestrzeni dla innych samochodów. Czyli tam, gdzie zwykły kierowca próbowałby wcisnąć się na rondzie, tam samochód autonomiczny grzecznie poczeka na swoją kolej. Każdy ewentualny błąd systemu będziemy traktować bardzo poważnie i aktualizować oprogramowanie naszych pojazdów.

Rozumiem, że kierowca będzie zawsze odpowiadał za to, co zrobi jego samochód, i za szkody, jakie wyrządzi. Tak samo, jak w przypadku asystenta parkowania czy tempomatu.

Jest pięć poziomów automatyzacji pojazdu. Wymienione przez pana ułatwienia zaliczamy do pierwszego i drugiego - w których kierowca musi nadzorować działanie systemu, bo on może popełniać pewne błędy. Poziom trzeci oznacza, że kierowca jest zwolniony z odpowiedzialności za prowadzenie pojazdu, ponieważ my bierzemy za to odpowiedzialność. Mogą się jednak zdarzyć sytuacje, w których samochód nie będzie sobie w stanie poradzić i wówczas zakomunikuje kierowcy, by zainterweniował, biorąc kierownicę w dłonie. Przykładowo pojawi się monit, że za 3-4 km będzie przeszkoda, która może wymagać ludzkiej ingerencji. Jeśli kierowca w odpowiednim czasie nie przejmie kierownicy, pojazd się zatrzyma. Poziom czwarty oznacza brak tego typu monitów, piąty - brak monitów, kierownicy, a nawet kierowcy. Obecnie pracujemy nad poziomem trzecim i czwartym.

W jednym z wystąpień powiedział pan, że samochód będzie oceniał sytuację i decydował, co jest dobre, a co złe. Czy dobrym scenariuszem może być uratowanie życia kierowcy kosztem innego uczestnika ruchu drogowego - powiedzmy coś przerażającego - np. dwóch małych dziewczynek przechodzących przez pasy? Czy samochód będzie za każdym razem chronił kierowcę?

Nasze samochody będą jeździć defensywnie i uważnie. Przyczyną zdarzenia, które pan opisuje, jest najczęściej szybka i nieuważna jazda - co sprowadza daną sytuację do takiego scenariusza: czy musi zginąć kierowca, czy pieszy. Jeśli uczestnicy ruchu drogowego będą przemieszczać się bezpiecznie, to nasz samochód, jadąc bezpiecznie, nie zrobi im krzywdy. Jeśli coś lub ktoś wyskoczy nagle przed maskę standardowego samochodu, to jego kierowca nie ma większego wyboru, czy skręcić w lewo czy też w prawo. Nie ma fizycznej możliwości zareagować. Jeśli musielibyśmy rozpatrywać scenariusze, czy auto wjeżdża w jedną, czy drugą grupę ludzi, to znaczy, że na poziomie projektowania systemu popełniliśmy błąd.

Google i Tesla już od ponad roku prowadzą własne testy takich pojazdów, okazyjnie je rozbijając na drogach publicznych, co pewnie dostarcza wielu cennych danych. W Europie nie ma przepisów pozwalających testować na drogach samochody z SI.

Są podejmowane kroki, żeby ustanowić odpowiednie przepisy również w Niemczech. W niektórych krajach już wyznaczono miejsca, w których można testować autonomiczne pojazdy. W Niemczech takie obszary są planowane na autostradach, ale również w strefach zamieszkanych. Nieco ponad miesiąc temu niemiecki rząd opublikował pierwszy draft prawa umożliwiającego jazdę samochodem z SI.

Tak, zgodnie z nim kierowca będzie wciąż odpowiedzialny za swoje auto, nawet jeśli uruchomi autopilota. Niemcy proponują, żeby poszkodowany mógł ubiegać się o 10 mln euro odszkodowania od ubezpieczyciela kierowcy, jeżeli wypadek zostanie spowodowany źle funkcjonującym systemem SI. Mimo wszystko nie boicie się, że amerykańska konkurencja za bardzo wam odskakuje?

Europejskie firmy wciąż mają czas, by opracować własne systemy SI, zauważamy również polityczną wolę Komisji Europejskiej, by uregulować tę kwestię pod względem prawnym. Pamiętajmy też, że równie ważna jest kwestia homologacji pojazdów - obecnie zajmuje się nią Europejska Komisja Gospodarcza. W tym zakresie mamy nawet więcej problemów do rozwiązania, bo zagadnienie homologacji musi się odbywać w porozumieniu z instytucjami na całym świecie, nie tylko w Unii Europejskiej.

@RY1@i02/2017/067/i02.2017.067.000001500.801.jpg@RY2@

fot. Ralf Groemminger/materiały prasowe

Dr Michael Fausten, wiceszef ds. inżynierii systemów i jazdy autonomicznej w firmie Bosch

Rozmawiał Jakub Styczyński