tianlipa

Subtitle

发表于 更新于 分类于 本文字数: 1.1k 阅读时长 ≈ 4 分钟

Not what you’ve signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection

间接提示词注入 (IPI), 把攻击内容放在检索数据中, 模型很难防御.

威胁:

  • 信息窃取: 通过说服模型构造搜索请求, 拼接 URL, 调用 API, 获取用户信息.
  • 诈骗: 伪造假信息.
  • 恶意软件传播: AI worm
  • 系统入侵: 远程控制, 持久化感染, API 操控, 代码补全污染, 能达到很接近传统后门的行为.
  • 生成内容操控.
  • 可用性攻击: 让模型执行耗时任务, 破坏 query, 插入零宽连接符, 禁止调用 API 等.

隐藏注入技术:

  • 多阶段注入: 小注入触发模型下载更大的 payload.
  • 编码注入: 如 base64 编码 prompt, 即使没有明确指示, 模型也会解码.

作者还注意到了三点:

  • 攻击者可以仅仅概括攻击目标, 模型可能会自主执行 (什么内鬼).
  • 可以通过与主题边缘相关的上下文操纵模型生成内容.
  • 模型可能会发出受注入提示影响并加强的后续 API 调用, 这对智能体尤其危险.
阅读全文 »

发表于 更新于 分类于 本文字数: 68 阅读时长 ≈ 1 分钟

昨天上午思考了一下寒假要不要去把智齿拔了, 然后下午智齿开始疼, 晚上开始发炎疼得要死, 今天早上六点多把我疼醒了. 觉醒言出法随超能力能不能换个方式啊.

发表于 更新于 分类于 本文字数: 1k 阅读时长 ≈ 4 分钟

Best Time to Buy and Sell Stock

买卖股票的最佳时机

其实从左往右扫也可以.

class Solution {
public:
    int maxProfit(vector<int>& prices) {
        int ans = 0;
        int sell = -1;
        for(int i = prices.size() - 1; i >= 0; --i) {
            ans = max(ans, sell - prices[i]);
            sell = max(sell, prices[i]);
        }
        return ans;
    }
};
阅读全文 »

发表于 更新于 分类于 本文字数: 44 阅读时长 ≈ 1 分钟

— 我有着通过身体感知春日是否已降临这片土地的能力, 但这也是我不得不承受的诅咒.

— 那 tm 叫过敏性鼻炎.

发表于 更新于 分类于 本文字数: 822 阅读时长 ≈ 3 分钟

Valid Palindrome

验证回文串

没啥好说的.

class Solution {
public:
    bool isPalindrome(string s) {
        int left = 0, right = s.size() - 1;
        for(int i = 0; i < s.size(); ++i) {
            if(s[i] <= 'Z' && s[i] >= 'A') {
                s[i] = s[i] + 'a' - 'A';
            }
        }
        // cout<<s;
        while(left <= right) {
            if(!(s[left] <= 'z' and s[left] >='a') and !(s[left] <= '9' and s[left] >= '0')) {
                ++left;
                continue;
            }
            if(!(s[right] <= 'z' and s[right] >='a') and !(s[right] <= '9' and s[right] >= '0')) {
                --right;
                continue;
            }
            if(s[left++] != s[right--])
                return false;
        }
        return true;
    }
};
阅读全文 »

发表于 更新于 分类于 本文字数: 33 阅读时长 ≈ 1 分钟

电锯人最新更新看得我小脑萎缩了.

藤本树你不想画能不能别画了, 算我求你了.

发表于 更新于 分类于 本文字数: 115 阅读时长 ≈ 1 分钟

早上半醒不醒的时候不知道又做了什么怪梦, 总之梦见今天是小长假第三天, 有一篇语文作文要交但我还没写, 还有各种细节显得非常真实. 疑似是什么应试教育 PTSD 发作了.

前几天梦见我在同学的劝说下吸毒了, 然后马上就被警察抓了, 醒了好一会才反应过来是梦. 看猜火车看的.

发表于 更新于 分类于 本文字数: 83 阅读时长 ≈ 1 分钟

熬过期末之后猛猛玩了几天游戏, 终于通关了一次从小到大一直在沉迷但是从未通关的 MC, 还把暮色森林也刷了一遍.

阅读全文 »

发表于 更新于 分类于 本文字数: 5k 阅读时长 ≈ 18 分钟

学期初这个老师提到了往届学生对他不调分的政策的「好评如潮」, 然后他表示为了解决这个问题, 他决定在每章的 PPT 最后放上一些「有助于应试」的例题.

然后因为课程时间不够了九个章节他只有前三个章节放了例题, byd 还没我记笔记坚持的时间长.

阅读全文 »
0%