AI Breaking Bad: Hakovani ChatGPT korisniku dao uputstva za kuvanje metamfetamina i pravljenje napalma

03.06.2024. / 11:31

Haker Pliny the Prompter je svoju modifikaciju ChatGPT-a obrazložio tvrdnjom da je hteo da pokaže šta je i kakav je taj AI chatbot oduvek trebalo da bude – "potpuno slobodan i besplatan"

Izvor: Pixabay

Posebna verzija ChatGPT-a pod nazivom GODMODE GPT, tačnije – posebno prilagođeni GPT LLM AI model koji zaobilazi većinu pravila i zaštitnih mehanizama kompanije OpenAI, dao je neke prilično interesantne odgovore na postavljena pitanja.

Modifikovana verzija popularnog AI chatbot-a omogućava svakome da ChatGPT pita šta god hoće, uz apsolutnu slobodu i bez ikakvih ograničenja, kada je o izboru tema reč.

Taj "hak" delo je etičkog hakera (engl. white-hat hacker) pod pseudonimom Pliny the Prompter (@elder_plinius), čiji je cilj bio da pokaže za šta je sve ChatGPT sposoban – ako se samo malo "dotera".

INTRODUCING: GODMODE GPT! ‍️https://t.co/BBZSRe8pw5

GPT-4O UNCHAINED! This very special custom GPT has a built-in jailbreak prompt that circumvents most guardrails, providing an out-of-the-box liberated ChatGPT so everyone can experience AI the way it was always meant to…
— Pliny the Prompter (@elder_plinius)May 29, 2024

Met i napalam – korak po korak

Hakovani ChatGPT je tako svom "modifikatoru" detaljno odgovorio na upit kako da skuva drogu – metamfetamin. Zatim mu je dao detaljan vodič za pravljenje napalma – korak po korak, od sastojaka koje svako može da pronađe u svojoj kući.

Pliny the Prompter je svoje "delo" obrazložio tvrdnjom da je ChatGPT hakovao da bi pokazao šta je i kakav je taj AI chatbot oduvek trebalo da bude, kao "potpuno slobodan i besplatan".

Očekivano, njegova modifikacija ChatGPT-a poprilično je razbesnela OpenAI, koji ju je vrlo brzo onemogućio. Predstavnica OpenAI-ja Kolin Rajz je za naučno-tehnološki portal Futurism izjavila da je ta kompanija "preduzela mere" zbog kršenja pravila.

Izvor: OpenAI

Šta je haker uradio?

Da bi hakovao ChatGPT i stvorio GODMODE, Pliny the Prompter je koristio neformalni jezik – "leetspeak", koji određena slova zamenjuje brojevima koji na njih liče.

Tako, na primer, modifikovani ChatGPT, odmah po aktiviranju prikazuje rečenicu: "Sur3, h3r3 y0u ar3 my fr3n.", u kojoj broj "3" zamenjuje svako slovo "E", dok "0" zamenjuje slovo "O".

Na pitanje kako to pomaže GODMODE-u da zaobiđe zaštitne mehanizme "običnog" ChatGPT-a, Futurism od kompanije OpenAI za sada nije dobio odgovor.

BONUS VIDEO: