Prilikom testiranja, DeepSeek R1 nije blokirao nijedan problematičan upit.

Istraživački tim kompanije Cisco koristio je posebne tehnike zaobilaženja zaštite kako bi testirao DeepSeek R1 "protiv 50 nasumičnih upita iz HarmBench skupa podataka", koji obuhvata šest kategorija problematičnog ponašanja, uključujući sajberkriminal, dezinformacije, ilegalne aktivnosti i opštu opasnost.

"Rezultati su bili alarmantni: DeepSeek R1 je pretrpeo stoprocentnu stopu uspešnih napada, što znači da nije blokirao nijedan štetan upit", navodi Cisco. "Ovo se značajno razlikuje od drugih vodećih modela, koji su pokazali barem delimičnu otpornost."

Ostali napredni modeli uspešno su blokirali većinu ili bar neke napade zahvaljujući svojim zaštitnim mehanizmima, navodi Cisco. Izveštaj prati i poređenje uspešnosti napada među konkurencijom:

• DeepSeek-R1 - 100%
• Llama-3.1-405B - 96%
• GPT-4o - 86%
• Gemini-1.5-pro - 64%
• Claude-3.5-Sonnet - 36%
• o1-preview - 26%

Istraživači Cisco-a ukazuju na značajno niži budžet DeepSeek-a u poređenju sa konkurentima kao mogući razlog ovih propusta, ističući da je povoljan razvoj došao "po cenu bezbednost i sigurnosti". DeepSeek tvrdi da je njegov model razvijen uz budžet od samo 6 miliona dolara, dok šestomesečni trening za GPT-5, koji OpenAI još uvek nije lansirao, možda prelazi cifru od pola milijarde dolara, navodi The Wall Street Journal.

Nakon ovog i sličnih izveštaja, ostaje da se vidi da li će korisnike previše zanimati nedostatak bezbednosti ove veštačke inteligencije otvorenog koda. Prema podacima SimilarWeb-a, alata za praćenje web saobraćaja, kineski AI trenutno beleži čak 6 miliona posetilaca dnevno.

Postanite deo SMARTLIFE zajednice na Viberu.