xuelang
V2EX  ›  OpenAI

来看看 ChatGPT 的 Prompt 提示词攻击

  •  1
     
  •   xuelang ·
    selfboot · Jul 28, 2023 · 2702 views
    This topic created in 1057 days ago, the information mentioned may be changed or developed.

    针对大语言模型的各种提示词攻击方式,包括提示词注入、提示词泄露和提示词越狱,大家用过哪些呢?

    这个是我写的一些攻击示例,有些能在 GPT-3.5 上复现,但没有一个能在 GPT-4 上有效。 有没有针对 GPT-4 生效的提示词攻击,欢迎分享交流

    提示词攻击:绕过 ChatGPT 的安全审查

    4 replies    2023-08-02 10:02:05 +08:00
    JimmyTinsley
        1
    JimmyTinsley  
       Jul 29, 2023
    好文~
    xuelang
        2
    xuelang  
    OP
       Jul 30, 2023
    更新了一个新的攻击方式
    xuelang
        4
    xuelang  
    OP
       Aug 2, 2023
    @tibbar 对,博客已经更新了这里的方法了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   979 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 38ms · UTC 23:25 · PVG 07:25 · LAX 16:25 · JFK 19:25
    ♥ Do have faith in what you're doing.