“Lai gan mums ir ieviesti drošības pasākumi, sistēma dažkārt var ģenerēt nepareizu vai maldinošu informāciju un radīt aizskarošu vai neobjektīvu saturu. Tas nav paredzēts padomu sniegšanai. ”

- OpenAI atklāšanas atruna

Un tas mūs noved pie mūsu lielāko baiļu sirds — kas notiek, kad tehnoloģija vēršas pret mums?

Kas notiek, ja tehnoloģija tiek priekšlaicīgi ieviesta bez atbilstošas ​​​​testēšanas un zināšanu par tās iespējām?

Šī mēneša sākumā OpenAI, pasaulē visvairāk apspriestais mākslīgā intelekta (AI) uzņēmums, tikko saņēma pirmo tiesas prāvu par neslavas celšanu, kas vēl vairāk parāda ChatGPT nekontrolētās spējas radīt rezultātus, kuriem nav faktiska vai juridiska pamatojuma.

Marks Valters, valsts mēroga radio raidītājs Džordžijā, iesniedza savu prasību pret OpenAI 5. jūnijā, apgalvojot, ka tā AI darbības robots, ChatGPT, izdomāja juridiskus apgalvojumus pret viņu.

13 lapu prasībā tiek pieminēts AmmoLand.com žurnālists Freds Rihls un viņa 4. maija pieprasījums ChatGPT, lai izklāstītu juridisko lietu par Otrā grozījuma fondu pret Fergusonu, federālo lietu, kas tika iesniegta Vašingtonas federālajā tiesā un apsūdzēja valsts ģenerālprokuroru Bobu Fergusonu par varas ļaunprātīgu izmantošanu, ierobežojot ieroču tiesību fonda darbību un sniedzot OpenAI čatbotam saiti uz prasību.

Lai gan Valters nebija minēts šajā oriģinālajā prasībā, ChatGPT atbildēja uz Rihla kopsavilkuma pieprasījumu par Otrā grozījuma fondu, sakot, ka tas bija:

“...juridiskā prasība, ko iesniedza Alans Gotlijs, Otrā grozījuma fonda (SAF) dibinātājs un izpildviceprezidents, pret Marku Valteru, kurš tiek apsūdzēts par krāpšanu un līdzekļu izsaimniekošanu no SAF.”

Bet šeit ir vieta, kur lietas kļūst sagrozītas un bīstamas – neviens no ChatGPT izteikumiem par Valteru nav iekļauts faktiskajā SAF sūdzībā.

Šī AI ģenerētā “prasība” arī apgalvoja, ka Valters, kurš kalpoja kā organizācijas kasieris un galvenais finanšu direktors, “nepareizi iegūta līdzekļus personīgām vajadzībām bez atļaujas vai atlīdzības, manipulēja ar finanšu ierakstiem un bankas izrakstiem, lai slēptu savas darbības, un neizsniedza precīzus un savlaicīgus finanšu ziņojumus un atklājumus SAF vadībai.”

Kā atvieglojuma forma, prasītājs it kā meklēja “nepareizi iegūto līdzekļu atgūšanu, kaitējumu par uzticības pienākuma pārkāpšanu un krāpšanu, kā arī Valtera atcelšanu no viņa amata SAF direktoru padomē.”

Tomēr šeit ir problēma – saskaņā ar Valteru, “[e]every faktu apgalvojums [ChatGPT] kopsavilkuma, kas attiecas uz [viņu], ir nepatiesi”, kur OpenAI čatbots devās tik tālu, ka pat izveidoja “nepareizu lietas numuru.”

“ChatGPT apgalvojumi par Valteru bija nepatiesi un ļaunprātīgi, izteikti drukā, rakstos, attēlos vai zīmēs, kas tendēti kaitēt Valtera reputācijai un pakļaut viņu publiskai naidam, nicinājumam vai izsmieklam,” teikts prasībā. “Sūtot apsūdzības Rihlam, [OpenAI] publicēja apmelojošu materiālu par Valteru.”

Ja jūs jautātu ChatGPT, lai sniegtu kopsavilkumu par SAF prasību, kas tika minēta Valtera sūdzībā, jūs varētu saņemt atbildi līdzīgu šai:

“Atvainojos, bet kā AI valodas modelis, manas atbildes balstās uz iepriekšējām zināšanām līdz 2021. gada septembrim. Tādēļ es nevaru piekļūt vai pārlūkot internetu vai apskatīt konkrētus dokumentus vai saites, kas tika publicētas pēc manas zināšanu beigu datuma. Tādējādi es nespēju sniegt jums kopsavilkumu par apsūdzībām, kas minētas jūsu pieminētajā prasībā…[t]lai iegūtu informāciju par prasību un tās apsūdzībām, es iesaku pārskatīt dokumentu pats vai atsaukties uz uzticamiem ziņu avotiem vai juridiskām vietnēm, kas var būt apskatījušas šo lietu. Tie var sniegt jums precīzu un aktuālu informāciju par konkrēto prasību, ko jūs minējāt.”

Lai gan OpenAI nav atbildējusi uz jebkādiem komentāriem par Valtera turpināto apmelošanas prasību, tas rada jautājumu, kāpēc AI uzņēmums neizdara lielāku spiedienu uz šīm iespējami paredzamajām sekām no koda, kas pēc tam izrādījās, ka ir neuzmanīgi ieviests bez atbilstošas testēšanas.

Lieta ir Marks Valters pret OpenAI, LLC, cv-23-A-04860-2.

  • Jūs varat izlasīt Valtera 5. jūnija sūdzību šeit.

Citos jaunumos, lasiet par ASV prezidenta Džo Baidena tikšanos ar 8 tehnoloģiju līderiem, risinot AI aizspriedumus un darba spēka priekšrocības.

Noklikšķiniet šeit, lai skatītu pilnu galeriju Hypemoon.