Američki portal prenosi zabrinjavajuću izjavu američkog kapetana, koji tvrdi da je brodovlasnik koristio AI bot, potencijalno ChatGPT, kako bi predložio izmjene plana putovanja. Iako je kapetan odlučio ne pridržavati se izmjena, zabrinut je da možda drugi neće postupiti jednako oprezno.
Američki kapetan ispričao je za portal gCaptain situaciju koja se navodno nedavno odvila prilikom planiranja putovanja, odnosno voyage planninga – procesa u kojem se detaljno procjenjuju plovne rute, sigurnosne, logističke i ostale pretpostavke, u svrhu optimizacije učinkovitosti i ekonomičnosti uz izbjegavanje mogućih rizika.
Kapetan je ispričao kako su prilikom planiranja uočeni manji sigurnosni problemi vezani uz rutu i teret, na temelju čega je poslao email brodovlasniku sa svim detaljima. Obično u tim situacijama brodovlasnik će u dogovoru sa stručnjacima (npr. iskusnim kapetanima, časnicima stroja) proučiti situaciju te pružiti smjernice o načinima smanjenja rizika.
Kako anonimni kapetan navodi za gCaptain, odgovor je dobio iznenađujuće brzo. Prvi i posljednji odlomak emaila djelovali su kao da ih je napisao čovjek, ali savjet o umanjivanju rizika “izgledao je kao da ga je napisala umjetna inteligencija”. Poruka je uključivala savjete koji bi zahtijevali promjenu kursa tijekom putovanja.
Premda je teško dokazati da je poruku zaista napisala umjetna inteligencija, ona je svakako slična odgovorima koji su dobiveni korištenjem umjetne inteligencije.
“Kao bivši kapetan, mogu potvrditi da je savjet bio prilično banalan i mala je vjerojatnost da bi se time brod doveo u opasnost, ali smisao postojanja International Safety Management procedura je da iskusni kapetani te drugi stručnjaci na kopnu, koji mogu biti upućeni u važne informacije koje kapetan broda možda ne zna, mogu potvrditi da nema neposredne opasnosti za brod”, piše John Konrad za gCaptain.
Novinari gCaptaina pitali su ChatGPT-4 za mišljenje o toj temi, postavljajući sljedeće pitanje: „Je li u redu da se za operacije koje predstavljaju potencijalne sigurnosne rizike, kao što je voyage planning, koristi ChatGPT?“. AI je odgovorila ovako: “Kao AI model jezika, ChatGPT nije stvoren niti ovlašten za davanje savjeta o operacijama od ključne sigurnosne važnosti kao što je voyage planning. Iako ChatGPT može generirati tekst na temelju primljenih podataka, razumijevanje složenih situacija i sigurnosnih pitanja u stvarnom svijetu kod umjetne inteligencije je ograničeno. Operacije koje predstavljaju sigurnosni rizik, kao što je voyage planning, zahtijevaju stručno znanje i prosudbu iskusnih stručnjaka koji mogu sveobuhvatno procijeniti rizike i nepredviđene situacije. Oslanjanje na savjete dobivene umjetnom inteligencijom za takve operacije moglo bi dovesti do potencijalno opasnih situacija i neželjenih posljedica. Ključno je da stručnjaci pažljivo procijene i provjere sve savjete ili prijedloge AI sustava prije njihove provedbe, posebno u operacijama koje predstavljaju potencijalne sigurnosne rizike.”
ChatGPT je prije nekoliko dana najavio verziju 4 sa naprednom analitičkom obradom. Zahvaljujući novom sustavu, upotreba umjetne inteligencije postat će još primamljivija u pomorskoj industriji, posebno onima koji su već preopterećeni papirologijom.
Umjetna inteligencija može potencijalno otkriti opasnosti i identificirati načine izbjegavanja rizika u planiranju putovanja koje ljudi lako mogu previdjeti. gCaptain je izvijestio o slučajevima u kojima je ChatGPT pomogao identificirati potencijalne opasnosti koje nisu uzete u obzir tijekom voyage planninga. Potpuno izbjegavanje upotrebe umjetne inteligencije moglo bi ugroziti brod i posadu, a umjetna inteligencija mogla bi stvoriti nova radna mjesta u budućnosti na način da iskusni kapetani pregledavaju i uređivaju prijedloge koje daje ChatGPT.
“Bez obzira može li se u ovom incidentu potvrditi uporaba umjetne inteligencije, ključno je da organizacije kao što su IMO, USCG i INTERTANKO rasprave o implikacijama uporabe umjetne inteligencije i daju smjernice jer samo je pitanje vremena kada će doći do veće nesreće na moru i gubitka života, bilo zbog savjetovanja s umjetnom inteligencijom ili nesavjetovanja s istom”, piše John Konrad za gCaptain.
