新年祝福

大模型幻觉（Hallucination）是指模型生成与事实不符、缺乏依据或逻辑混乱的内容，其产生根源可从多个维度分析：数据驱动缺陷训练数据的噪声与偏见：大模型依赖海量互联网文本训练，而网络数据本身包含错误信息、主观偏见、过时知识甚至虚构内容。模型无法辨别数据真伪，可能将错误模式内化为“知识”。长尾知识覆盖不足：即使训练数据规模庞大，某些冷门领域或细节知识仍可能缺失。当模型被迫生成此类内容时，可能通过“脑补”填补空白，导致虚构。数据时效性滞后：模型训练存在时间差（如GPT-4数据截止到2023年10月），无法获取最新事件或研究成果，可能生成过时信息。概率生成的本质：模型通过最大化token预测概率生成文本，目标是“流畅合理”而非“真实准确”。当高概率路径与事实冲突时，模型优先选择语言连贯性。缺乏现实世界感知：模型仅学习文本间的统计关联，缺乏对物理世界、因果关系或社会常识的深层理解。例如，可能生成“太阳从西边升起”的合理句式，但违背常识。自回归生成误差累积：生成过程逐步依赖前文，早期错误（如错误的前提假设）会导致后续内容偏离事实，形成“幻觉链”。训练目标与评估偏差损失函数局限性：训练时以预测下一个token的准确性为目标，未直接优化事实正确性。模型擅长模仿语言模式，但缺乏事实核查能力。缺乏显式知识验证机制：传统架构未内置实时知识检索或逻辑推理模块，无法在生成过程中交叉验证信息真实性。应用场景的复杂性模糊性指令的过度泛化：当用户需求模糊（如“写一篇关于量子物理的论文”）时，模型可能虚构术语、引用不存在的文献以完成响应。对抗性提示诱导：特定提问方式（如“请描述历史上不存在的某场战争”）可能触发模型的创造性生成模式，混淆虚构与事实边界。缓解幻觉的常见策略知识增强：引入检索增强生成（RAG），实时调用权威数据库辅助生成。强化对齐：通过RLHF（基于人类反馈的强化学习）优化模型对“真实性”的偏好。不确定性标注：让模型主动标记低置信度内容，如“据某些资料显示…”。 #牛客激励计划#  #AI产品经理#  #产品经理#  #聊聊我眼中的AI#  #聊聊我眼中的AI#  #如果可以选，你最想从事什么工作# #牛客AI配图神器#

1.介绍项目，项目相关。2.项目中的漏洞，引到分布式事务。3.分布式锁4.缓存击穿相关（只会最简单的永不过期和加锁，后面恶补。面试官后面说了可以直接限流和熔断的方式，但没怎么了解过）5.redis和mysql的一致性保证。6.redis的常见数据结构，介绍一下跳表。7.redis的数据持久化机制8.B树和B+树9.SQL语句执行过程中各个关键字的执行顺序10.平常如何使用大模型的11.有没有了解AI12.手撕：经典LC1.两数之和13.反问总结：基本常见八股，但很多也不是很熟练。是做AI平台的部门，所以问了些大模型，不太会答。面试官全程没露脸，而我傻傻地开了全程。百度流程很怪，捞我面试的是官网...

今天做了易方达笔试，感觉确实和互联网的笔试差别比较大90分钟，双机位，题的话包含英语阅读理解，行测，数学等大混杂，长知识了属于是。也不知道多少分可以进面试，有无牛客大佬了解的可以一起讨论攒攒好运~#牛客创作赏金赛##笔试##易方达##实习##Java##牛客AI配图神器#

自我介绍项目。用文本进行图像搜索项目，用户的输入文本和训练使用的有偏差怎么办（例如比较口语化）？从现场弄一些数据进行微调，或者给用户一下提示，让用户知道怎么样能更好的匹配。无做题。反问：岗位相关。为什么支付宝现在支付会减几块钱？以及碰一碰。因为wx一般大家都是打开的，买东西的时候，不用切换app进行支付。简单的优势就导致支付宝落在了下风，因此用优惠和碰一碰来和wx竞争。40 min结束。一分钟后面试通过。蚂蚁的面试流程真是舒服啊！