Nedavno sam pokušao doći do predstavnika korisničke podrške u jednoj velikoj kompaniji za društvene mreže – onoj za koju ste sigurno čuli, ali je neću imenovati. Naš oglašivački račun je onemogućen kada je neko pokušao hakirati račun našeg menadžera za društvene mreže. Predvidljivo, to je bio fijasko. Račun za oglase je automatski onemogućen od strane algoritma, a nakon sedmica i semdica dopisivanja, činilo se da niko u kompaniji ne zna zašto se to dogodilo ili kako to popraviti.
Isprva sam bio optimističan. Otvorio sam tiket za podršku i razgovarao s chatbotom. Svako ko je pokušao dobiti podršku putem web chatbota zna koliko je to loš početak, ali kad sam zatražio razgovor s ljudskom osobom, bio sam ugodno iznenađen što sam se gotovo odmah povezao.
Stephanie je bila nevjerojatno pristojna i diplomatična, empatična i podržavajuća. No, dok smo razgovarali, imao sam sve jači osjećaj da nešto nije uredu. Stephanie kao da bi zaboravila kontekst razgovora svakih nekoliko izmjena, nekoliko puta me tražila da potvrdim brojeve računa, i koristila je diplomatski jezik koji je zvučao sjajno, ali nije značio ništa. Nije mi mogla reći što se zapravo događa, ali me uvjeravala da “tim” (ko god to bio) radi jako naporno na rješavanju problema. To je bilo prije mjesec dana.
Odjednom mi je sinulo da gotovo sigurno ne razgovaram s ljudskom osobom. Ne mogu to dokazati, ali proveo sam dovoljno vremena igrajući se s velikim jezičnim modelima (LLMs) poput ChatGPT-a da prepoznam njihove ekscentričnosti. Mislim da je ta kompanija glumila da me povezuje s ljudskom osobom, ali me umjesto toga spojila s modernom umjetnom inteligencijom.
Oda umjetnoj inteligenciji
Želim biti uzbuđen zbog velikih jezičnih modela (LLM). Kada je ChatGPT javno predstavljen krajem novembra 2022, svijet je gotovo poludio. Zainteresiran za sveopći hype, kreirao sam račun i počeo eksperimentirati. Dao sam mu ovaj zadatak: “Napiši stih o tome kako te udaraju u glavu na turniru u borilačkim vještinama”, i evo što mi je dao:
Jednog dana na turniru borilačkih vještina,
Brz udarac je poletio prema meni.
Pokušao sam se odbraniti,
Ali na kraju, nažalost,
Na strunjači sam nevoljno ležao.
Bio sam zadivljen! Razmislite o uvidima potrebnim za stvaranje nečega čak i tako kratkog i naizgled jednostavnog: razumjelo je što znači napisati stih; povezalo je borilačke vještine sa “strunjačom”; shvatilo je da te udarac u glavu može baciti na tlo; i sve te pojmove spojilo u stih s ispravnim rimom i metrikom.
Ako bi ChatGPT samo pisao stihove, to bi već bilo dovoljno impresivno. Ali može pisati poeziju, razvijati softver, uređivati tekstove, sastavljati odgovore na e-mailove, oponašati naglaske i ljude, pripremati marketinške tekstove… lista ide dalje. To je najbliže pravoj općoj umjetnoj inteligenciji što sam ikada vidio. Drugi UI modeli mogu generirati uvjerljive slike na temelju tekstualnog zadatka, ili čak oponašati ljudski govor.
Možete ga sami isprobati besplatno na OpenAI.com. Ali kako budete razgovarali s njim, počet ćete primjećivati njegova ograničenja. Pametan je i informiran, ali je i čudno glup. Ili možda nehuman. Dovoljno je razgovoran da očekujete da se ponaša kao čovjek, ali nije. ChatGPT će izmišljati činjenice i predstavljati ih s uvjerenjem (ljudi to zovu halucinacija), i zaboravit će kontekst.
Sve će se promijeniti, ali ne još
Ipak, jasno je što se sprema. Ova tehnologija će promijeniti svijet. I dok je teško predvidjeti gdje će sve to završiti, to ne sprječava najmoćnije i najbogatije firme na svijetu da u to ulože sve. Ako je tehnologija već sada nevjerojatna, zamislite gdje će biti za 10 godina.
Kao što sam rekao, želim biti uzbuđen. Ali već me jedna velika kompanija obmanula povezavši me s UI s frustrirajućim (i poslovno štetnim) ishodima. I već primam spam generiran od strane UI-a u svoju email poštu i na svoj LinkedIn račun. Siguran sam da UI može pozitivno utjecati na svijet. Ali neizvjesne pozitivne strane su u ravnoteži s gotovo zajamčenim negativnim.
Studenti već koriste tehnologiju za varanje. Iako postoje napori za otkrivanje pisanih radova generiranih od strane UI-a, sumnjam da je to bitka koja će se dobiti. Čak je i OpenAI (razvijač ChatGPT-a) otkrio da je njihov alat za detekciju nepouzdan, tačno identificirajući sadržaj generiran od strane UI-a u otprilike četvrtini slučajeva, i lažno označavajući tekst napisan od strane ljudi kao UI-generiran u 9% slučajeva. Ako bi se koristio u sadašnjem stanju, OpenAI-jev klasifikator bi pustio 75% varalica da prođu neotkriveni i optužio 10% nevinih. To nisu dobre šanse. Kako LLM-ovi postaju sposobniji, vjerojatno će postati još gore.
To će utjecati i na vrijednost informacija na internetu. Internet je već na neki način postao pustoš beskorisnog sadržaja, napisanog da manipulira tražilicama umjesto da pruži stvarnu informativnu vrijednost. LLM-ovi naoružavaju i unapređuju taj trend, čineći moguće objavljivanje dosadnog, irelevantnog sadržaja neviđenom brzinom. Ako je prije bilo teško pronaći stvarne uvide od stvarnih ljudi na internetu, u budućnosti će to postati gotovo nemoguće. Sigurno, UI će postati bolji. Ali čak i tada, sumnjam u budućnost u kojoj kreativno pisanje i umjetnost postaju domena računala umjesto ljudi.
U međuvremenu, tvrtke neće moći odoljeti pozivu automatizirane, UI-pokretane korisničke podrške. Zašto plaćati osobu da razvija odnose s korisnicima ako umjesto toga možete prevariti korisnike da razgovaraju s UI-em, bez obzira na korisničko iskustvo?
Sviđalo se to nama ili ne, nema izlaska s ovog voza. I ako ga ne možemo izbjeći, mogli bismo mu se i pridružiti. Pitao sam se kako bih mogao primijeniti LLM-ove u svom proizvodnom poslu, ali nikako ne mogu smisliti nijednu primjenu koja nije bolje riješena korištenjem tradicionalnijih alata, barem za sada. Možda je to znak moje vlastite mašte.
Mislim, mogao bih fino podesiti model da automatski odgovara korisnicima, čineći njihovo iskustvo malo lošijim, a našu platnu listu neznatno nižom. Ali jurnjava za profitom na račun korisnika ne zvuči kao pobjednička strategija. Zapravo, korisničko iskustvo je bio veliki pokretač rasta naše trgovine, na svakom koraku od ponude do dijela. Koristimo puno softverske automatizacije, ali fokusiramo se na alate koji olakšavaju živote korisnika, a ne otežavaju. Ponekad morate znati kada ne koristiti novi alat.
Možda bi se LLM mogao koristiti za analizu dijelova ili predviđanje uskih grla u proizvodnji, ali to stvarno nije pravi alat za taj posao. Bilo bi lakše i tačnije analizirati proizvodljivost od osnovnih principa nego trenirati UI temeljen na tekstu za to: na primjer, simulacija savijanja može zapravo otkriti kolizije s alatima. UI model to ne bi mogao učiniti, bez obzira koliko je dobar u pisanju stihova ili oponašanju poznatih političara.
Isto se može reći za planiranje. UI bi mogao biti obučen da otkrije kvalitativne nedostatke na dijelovima, ali opet… zašto? Identificiranje, mjerenje i analiza dijelova strojnom vizijom je riješen problem, i LLM ne dodaje ništa korisno u tu kombinaciju. Trenirati generativni UI da pronađe kvalitativne nedostatke na slici bilo bi kao zatezanje vijka vezicama i štapićima od sladoleda. Vjerojatno biste mogli smisliti način da to učinite, ali zašto ne biste uzeli ključ umjesto toga?
UI bi mogao pomoći u finoj prilagodbi naše web stranice i oglasnog teksta ili uređivati e-mailove kako bi prilagodio njihov ton. To je barem nešto praktično i odmah korisno, ali to je mala kvaliteta poboljšanja života, a ne transformacija poslovanja.
UI bi mogao utjecati na neka područja u uredu, uključujući stvarno pisanje low-code, prilagođenih aplikacija za jedinstvene scenarije. I, naravno, svaka radionica ima puno jedinstvenih situacija, posebno kada je riječ o rasporedu i uravnoteženju opterećenja. Prilagođeni metaloprerađivači svakodnevno izvode žonglerski čin, a svaki ima drugačiji način upravljanja time. Ovdje bi UI mogao pomoći.
Osim toga, ipak, mi i dalje izrađujemo fizičke dijelove za fizički svijet. Bez obzira na to koliko je sofisticirana automatizacija, staromodni čovjek mora biti uključen. To je dobra stvar za proizvođače. Držim fige da tako i ostane. Nisam siguran da je svijet koji ne treba ljude bolji, bez obzira koliko uzbudljiva tehnologija koja nas tamo vodi.