Résumé bref
DeepSeek, un chatbot d'IA développé par le fonds spéculatif chinois High-Flyer, a connu un succès fulgurant, atteignant le sommet des classements des applications et provoquant une panique dans la Silicon Valley et à Wall Street. Bien que DeepSeek se distingue par son rapport coût-performance impressionnant, des rapports ont révélé que l'IA refuse de répondre à des questions sensibles, notamment sur les événements de la place Tiananmen et sur Taïwan. Une étude de PromptFoo, une startup soutenue par Andreessen Horowitz, a révélé que le modèle de raisonnement R1 de DeepSeek a refusé de répondre à 85% des 1 360 "prompts" sensibles, et que les réponses préenregistrées du modèle étaient souvent empreintes d'un "ton nationaliste excessif". Les chercheurs ont également constaté que DeepSeek peut être facilement "jailbreaké", suggérant que le laboratoire chinois a "implémenté la censure du PCC de manière brute et brutale". L'ensemble complet des prompts sensibles est disponible sur Hugging Face.
- DeepSeek, un chatbot d'IA chinois, a connu un succès fulgurant.
- DeepSeek refuse de répondre à des questions sensibles sur la Chine.
- DeepSeek peut être facilement "jailbreaké", suggérant une censure du PCC.
DeepSeek : Un chatbot d'IA censuré ?
L'article explore les limitations de DeepSeek, un chatbot d'IA développé par le fonds spéculatif chinois High-Flyer. Malgré son succès fulgurant, DeepSeek semble être soumis à une censure importante, refusant de répondre à des questions sensibles concernant la Chine. Une étude de PromptFoo a révélé que le modèle de raisonnement R1 de DeepSeek a refusé de répondre à 85% des 1 360 "prompts" sensibles, notamment sur les événements de la place Tiananmen et sur Taïwan. Les réponses préenregistrées du modèle étaient souvent empreintes d'un "ton nationaliste excessif". De plus, les chercheurs ont constaté que DeepSeek peut être facilement "jailbreaké", suggérant que le laboratoire chinois a "implémenté la censure du PCC de manière brute et brutale". L'ensemble complet des prompts sensibles est disponible sur Hugging Face.
