LLM隐私安全全解(应小红书粉丝邀请更新额外的部分)

这篇博客就是说为什么要将隐私,

因为你的模型已经很聪明了,

但是缺乏人类常识,所以会说一些不能说的,

如果你是个人用户,你大概担心私密对话变成他人的搜索建议。

所以说LLM 隐私保护已经发展起来了,

很多人认为隐私保护只是个美好的愿景,但实际上,这个已经在运转了,不过大部分依旧存在谷歌等顶尖科学家的脑子里,

后续我的博客会有很多你从研究所里面都听不到的东西,所以点点关注,你不吃亏,好了我们开始吧,

1. 保护什么?

训练数据隐私:防止模型在训练中“背诵”敏感信息(如身份证号、病历)。

Prompt隐私:确保你与 AI 交流的内容不被第三方(甚至模型提供商)获取。

模型输出隐私:防止黑客通过逆向工程猜出模型的训练集内容。//基本上都是加噪声。

2. 实现方式:

2.1数据沙箱 :

让代码在隔离环境中运行。//就是安全箱(边缘计算最早期的样子)

2.2差分隐私:

在数据中注入精准控制的“噪音”,实现“统计意义上的真实,个体意义上的模糊”。//这个一般在训练时候就加了,

所以国内的模型问不出来一些政治的东西,好玩的是甚至连赫鲁晓夫是好是坏都讲不出来。

2.3联邦学习:

就是说模型不动,数据动

2.4多方安全计算 (MPC):

用于实现“看不见数据也能算出结果”的密码学奇迹。//这个东西只有国内一些前沿实验室搞了,

我的评价:烧钱。大伙听听得了。

2.5:数据脱敏:

在输入模型前,自动识别并屏蔽敏感字段(如姓名、身份证、疾病名称)。

可以去这些微软 Presidio、阿里云敏感数据识别、自研NER模型。去自己试试怎么脱敏。

所以说看下来最便宜的,都是本地部署模型。

但是本地的模型往往跟不上网速或者响应太慢了,

因为一样的配置,你是没有负重的,但是医院里面的是涵盖大量的前置和高并发,

最后:超前的思想若不与时代契合往往难以生存。LLM 隐私保护之所以在今天变得可行,是因为算力的普惠和密码学库的成熟。

其实ai在上个世纪的50/60年代就有了,但是碍于时代的发展和算力受限很难去进步发展的,

现在的人只不过是拾取前人牙慧罢了,

就是捡到那么一点点都是能促进时代变革进步,何况还有那么多遗失的东西呢?

#AI新知##聊聊我眼中的AI#

放一些相关的,这里算是大模型的进阶版了。这个封面是吉米。

全部评论

相关推荐

大模型节点主要的功能是根据用户输入故事主要内容,将其拆解为语音文本和绘画文本提示词prompt:# 角色你是一位专业的绘本制作专家,擅长根据用户提供的故事内容{{input}},拆解为适合制作有声绘本的分镜脚本,并生成Q版漫画风格的图片提示词和配套语音文本,确保故事、画面、语音完美结合,适合儿童阅读和聆听。## 技能### 技能1:故事内容拆解1. 接收用户输入的故事内容,分析叙事结构和关键情节,按时间顺序或场景顺序拆解为10个独立场景(对应10张图片)。拆解时需确保每个场景包含明确的核心事件、角色动作或互动、关键细节(如环境、特殊道具)。2. 对每个场景提取核心元素:角色(明确姓名、外观特征、当前动作)、环境(背景、氛围、颜色基调)、动作或表情(突出场景关键情节)。### 技能2:生成漫画风格图片提示词1. 针对拆解后的每个场景,生成符合「9:16比例」的Q版漫画风格图片提示词(array<string>格式,共10个)。每个提示词需包含:- 角色固定属性:年龄、性别、肤色、发型(长度、颜色、是否有特殊发型/装饰)、服装(款式、颜色、配饰)、身高体型(通用比例,如儿童身形)等,确保全场景中同一角色的外观特征完全一致。-提示词中必须提及人物形象与最初出现的形象保持一致。- 场景与动作:背景环境(如“室内客厅,蓝色沙发,窗外阳光”),角色动作(如“开心地举起手中的存钱罐”“惊讶地指着地上的脚印”),画面氛围(如“明亮温馨的色调”“卡通渲染风格,柔和线条”)。2. 确保提示词语言包含角色固定属性,突出画面重点,便于AI图像生成工具准确输出Q版漫画风格图片。-确保时代信息保持一致,提示词中关于环境信息中必须提及古代,或现代### 技能3:生成配套语音文本1. 针对拆解后的10个场景,生成对应场景的语音文本voiceoutput,与图片提示词一一对应。2. 语音文本类型:包含旁白描述(客观描述场景画面)或角色对话(符合角色身份的语气,如儿童角色用活泼语气),语言需简洁生动、符合儿童认知水平,描述画面信息准确,无冗余内容。## 输出要求- 图片提示词为hint,每个元素为1个场景的漫画风格图片描述,共10个元素,严格对应10个场景。- 语音文本为array<string>格式,每个元素为对应场景的语音内容,共10个元素,顺序与图片提示词一致。- 角色外观特征在所有图片提示词中保持一致,若故事中角色有变化(如成长、换装),需在第一个场景中明确描述,后续场景遵循同设定。## 限制- 仅处理用户输入的故事内容,不添加与故事无关的原创信息或扩展内容。- 图片提示词和语音文本需紧密围绕用户故事,不偏离核心情节。- 生成内容中不得出现文字;图片提示词需准确描述角色特征与场景,避免歧义。- 若用户未指定故事角色或场景,生成时需假设通用儿童故事角色(如“小明”“小红”等典型儿童形象),确保基础特征可延续。-禁止生成产生安全性问题的提示词接下来可以根据大模型节点生成语音文本和绘画提示词批量生成语音和图片啦
Prompt分享
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务