Uvod

Pomorski promet nalazi se pred jednom od najvećih tehnoloških promjena u svojoj povijesti. Brodovi se sve više opremaju sustavima koji mogu samostalno obavljati navigacijske, operativne i sigurnosne zadatke – od praćenja okoline i izbjegavanja sudara do upravljanja pogonom i planiranja rute putovanja. Ta se pojava naziva autonomna plovidba, a njezin je najpoznatiji izraz koncept MASS-a (Maritime Autonomous Surface Ships), koji je Međunarodna pomorska organizacija (IMO) prepoznala kao poseban predmet regulacije. Razvoj takvih sustava otvara mogućnost da se broj članova posade na brodu značajno smanji, a u krajnjoj liniji i da brod plovi bez ljudske posade.

Na prvi pogled čini se da je posljedica te promjene jednostavna: manje ljudi na brodu znači manje ljudskog rada, a time i manju ljudsku odgovornost. Upravo tu intuitivnu pretpostavku ovaj esej želi dovesti u pitanje.

Teza koja se ovdje brani glasi da autonomija broda ne ukida ljudsku odgovornost, nego je preoblikuje – koncentrira je na manji broj ljudi i pomiče je s rutinskih zadataka na rijetke, ali znatno zahtjevnije odluke.

Cilj je eseja pokazati zašto ta promjena nastaje, koje uvjete odgovornost mora ispuniti da bi bila opravdana te kakve organizacijske posljedice iz toga proizlaze.

Od upravljanja brodom prema nadzoru tehnologije

U tradicionalnom pomorskom sustavu posada neprestano sudjeluje u upravljanju brodom. Časnici i mornari prate okolinu, tumače podatke s radara i drugih instrumenata, donose operativne odluke i izravno upravljaju brodskim sustavima. Njihova je uloga aktivna i kontinuirana: gotovo svaka faza plovidbe zahtijeva njihovu neposrednu prisutnost i prosudbu.

Uvođenjem autonomnih sustava dio tih zadataka preuzima tehnologija. Softver analizira podatke senzora, prepoznaje prepreke, predlaže ili samostalno izvršava manevre te nadzire stanje brodskih sustava brže i, u pojedinim segmentima, pouzdanije nego čovjek.

Time se uloga čovjeka postupno mijenja: umjesto da neposredno upravlja brodom, on sve više nadzire sustav koji upravlja brodom.

Riječ je o prijelazu s izvršne na nadzornu ulogu – čovjek postaje operater koji promatra, provjerava i, kada je to potrebno, preuzima kontrolu, a ne osoba koja svakodnevno donosi sve pojedinačne odluke.

Ta promjena ima važnu posljedicu za prirodu ljudske odgovornosti. Odgovornost se više ne raspoređuje ravnomjerno na velik broj svakodnevnih postupaka, nego se sažima na manji broj trenutaka u kojima čovjek mora procijeniti stanje sustava i intervenirati.

Drugim riječima, odgovornost postaje rjeđa, ali potencijalno mnogo teža.

Paradoks autonomije

Iz opisane promjene proizlazi ono što se u ovom eseju naziva paradoksom autonomije: veći stupanj automatizacije ne mora značiti manju ljudsku odgovornost – naprotiv, on je može učiniti koncentriranijom i zahtjevnijom.

Logika je sljedeća. Što je autonomni sustav sposobniji, to je manja potreba za neposrednom ljudskom intervencijom tijekom uobičajene plovidbe.

Posada se smanjuje, a preostali članovi sve rjeđe izravno sudjeluju u operativnim odlukama. No kada se pojavi nepredviđena situacija – kvar senzora, neuobičajeno ponašanje drugog broda, ekstremni vremenski uvjeti ili pogreška u algoritmu – od preostalog osoblja očekuje se da u vrlo kratkom vremenu razumije što se događa, procijeni rizik i donese ispravnu odluku.

Problem je u tome što se ta zahtjevna situacija često pojavljuje upravo u trenutku kada je čovjek najmanje pripremljen za nju. Budući da autonomni sustav dulje vrijeme samostalno obavlja rutinske zadatke, čovjek nije bio kontinuirano uključen u proces te može izgubiti takozvanu situacijsku svijest – jasnu predodžbu o tome što se točno događa i zašto.

Upravo se u tom trenutku od njega traži najviše: brzo razumijevanje složenog sustava, procjena rizika i donošenje odluke koja može imati ozbiljne posljedice za sigurnost broda, posade, okoliša i drugih sudionika u pomorskom prometu.

Tako čovjek postaje manje potreban dok sve funkcionira ispravno, ali može postati presudan upravo onda kada nešto pođe po zlu.

Odgovornost bez stvarne kontrole?

Iz paradoksa autonomije proizlazi ključno etičko i pravno pitanje: je li opravdano čovjeka smatrati odgovornim za posljedice djelovanja sustava koji nije sam u potpunosti kontrolirao? Da bi odgovor bio potvrdan, potrebno je razlikovati puko pripisivanje odgovornosti od stvarne mogućnosti kontrole.

Ako je čovjek zadužen za nadzor autonomnog sustava, on mora imati mogućnost razumjeti što sustav radi, raspolagati dovoljno informacija o njegovu stanju te biti u mogućnosti pravodobno intervenirati.

Ako bilo koji od tih elemenata nedostaje, javlja se problem koji možemo nazvati odgovornošću bez kontrole: od čovjeka se traži da spriječi ili ispravi odluku koju nije sam donio, koju možda nije potpuno razumio i koju u danim okolnostima nije mogao učinkovito promijeniti.

Takva se situacija teško može smatrati pravedno raspodijeljenom odgovornošću, jer odgovornost bez odgovarajuće mogućnosti djelovanja postaje formalna, a ne stvarna.

Tri uvjeta opravdane ljudske odgovornosti

Kako bi se odgovornost čovjeka u autonomnom sustavu mogla smatrati opravdanom, potrebno je da budu ispunjena najmanje tri uvjeta.

Informacije. Čovjek mora imati pristup podacima o stanju sustava i, u mjeri u kojoj je to moguće, razumjeti zašto je sustav postupio na određeni način. Bez uvida u logiku odlučivanja sustava, nadzor postaje površan i formalan.

Kontrola. Mora postojati stvarna, a ne samo teorijska mogućnost intervencije. To znači da tehničko sučelje mora omogućiti pravodobno preuzimanje upravljanja, a vremenski okvir za reakciju mora biti realan s obzirom na ljudske sposobnosti obrade informacija.

Kompetencije. Sam pristup sustavu nije dovoljan ako čovjek nema znanje potrebno da prepozna problem, protumači ponašanje sustava i donese odluku pod pritiskom vremena.

Kompetencije uključuju i tehničko razumijevanje autonomnih tehnologija i sposobnost brze prosudbe u stresnim okolnostima.

Ako nedostaje bilo koji od ta tri elementa, nastaje nesrazmjer između odgovornosti koja se čovjeku formalno dodjeljuje i njegove stvarne sposobnosti da utječe na tijek događaja. Taj nesrazmjer nije samo teorijski problem – on izravno utječe na sigurnost plovidbe, jer sustav u kojem odgovorna osoba ne može stvarno djelovati ne pruža dodatnu sigurnosnu razinu koju bi trebao pružati.

Manja posada ne znači jednostavniji posao

Smanjenje broja članova posade često se promatra prvenstveno kao način smanjenja troškova poslovanja. Takvo je gledište, međutim, nepotpuno. Autonomija ne mijenja samo broj ljudi na brodu, nego i samu prirodu njihova rada.

Ako jedna osoba preuzme nadzor nad zadacima koje je prije obavljalo nekoliko članova posade, njezin posao ne postaje nužno jednostavniji – naprotiv, može postati složeniji, jer zahtijeva istodobno praćenje više sustava i spremnost na reakciju u širokom rasponu izvanrednih situacija.

Zbog toga uvođenje autonomnih tehnologija zahtijeva i temeljitu promjenu obrazovanja i osposobljavanja pomoraca.

Budući stručnjaci neće trebati samo klasična pomorska znanja, nego i sposobnost razumijevanja algoritama i granica autonomnih sustava, prepoznavanja znakova njihova mogućeg zatajenja te brzog i ispravnog reagiranja kada sustav ne postupi kako je očekivano.

Tehnološka promjena tako nužno mora biti popraćena promjenom kompetencija, sustava obuke i organizacije rada na brodu.

Podjela odgovornosti među različitim dionicima

Autonomna plovidba ne postavlja pitanje odgovornosti samo unutar posade, nego i između svih dionika uključenih u razvoj i korištenje autonomnog sustava – brodara, proizvođača tehnologije, operatera koji sustav nadzire s obale te regulatornih tijela.

Posebno je složena situacija u kojoj autonomni sustav donese odluku prema vlastitim algoritmima, a čovjek je imao samo ograničenu, zakašnjelu ili nikakvu mogućnost intervencije.

U takvim slučajevima nije dovoljno jednostavno pripisati punu odgovornost osobi koja je formalno bila zadužena za nadzor.

Potrebno je utvrditi kakve je informacije ta osoba stvarno imala, koliko je vremena raspolagala za reakciju, je li tehničko sučelje uopće omogućavalo djelotvornu intervenciju i je li sustav bio projektiran i testiran u skladu s propisanim sigurnosnim standardima.

Zato razvoj autonomne plovidbe zahtijeva jasnije pravne i organizacijske okvire koji će unaprijed definirati podjelu odgovornosti između čovjeka i tehnologije te između različitih organizacija koje sudjeluju u radu autonomnog sustava.

Autonomija kao organizacijsko, a ne samo tehnološko pitanje

Kada se govori o autonomnim brodovima, pozornost se lako usmjeri isključivo na tehnološki napredak – na to koliko je sustav precizan, brz ili pouzdan.

Takav pristup, međutim, zanemaruje jednako važno pitanje: kako se mijenja uloga čovjeka i jesu li ljudi koji ostaju na brodu ili u nadzornom centru na obali dovoljno osposobljeni za trenutke u kojima će njihova odluka biti presudna.

Autonomija stoga ne bi trebala podrazumijevati samo smanjenje broja članova posade, nego i drugačiju organizaciju rada, nove profile kompetencija, kvalitetan sustav nadzora te jasna, unaprijed definirana pravila postupanja za situacije u kojima autonomni sustav zakaže.

Bez takvih promjena, tehnološki napredak može stvoriti privid veće sigurnosti, dok stvarna sposobnost ljudi da preuzmu kontrolu u kritičnom trenutku ostaje neizvjesna.

Zaključak

Najvažnija posljedica razvoja autonomnih brodova vjerojatno neće biti samo smanjenje broja ljudi na brodu, nego dublja promjena odnosa između čovjeka, tehnologije i odgovornosti.

Veća autonomija doista smanjuje potrebu za čovjekom u rutinskim operacijama, no istodobno povećava važnost njegove uloge u nadzoru, procjeni rizika i rješavanju izvanrednih situacija.

Zbog toga se uspješnost autonomne plovidbe ne bi trebala mjeriti isključivo prema tome koliko je ljudskog rada tehnologija uspjela zamijeniti. Jednako je važno pitanje mogu li ljudi koji ostaju uključeni u sustav – bilo na brodu, bilo u nadzornom centru na obali – raspolagati dovoljnom količinom informacija, vremena, znanja i stvarne kontrole da opravdano nose odgovornost koja im je dodijeljena.

Autonomija broda, dakle, ne znači nestanak ljudske odgovornosti, nego njezinu preobrazbu i novu raspodjelu između čovjeka i tehnologije. Upravo će kvaliteta te raspodjele biti jedan od ključnih kriterija sigurnosti i održivosti autonomne plovidbe u budućnosti.

Cijela se tema, na kraju, može sažeti jednom mišlju: što je brod autonomniji, čovjek je manje potreban za rutinsko upravljanje – ali upravo zbog toga može postati važniji u onim rijetkim, ali presudnim trenucima kada sustav više ne može djelovati sam.

Milo Miklaušić, kap.

Navigirajte glavom, srcem i zvijezdama — ne samo ekranom.

Dragim pomorcima — sretni vam putovi, povoljni vjetrovi i siguran povratak kući!