LLMVault 项目学习(一)
发布于
# LLM_hacker
包含了提示词注入、敏感信息披露、供应链投毒、训练数据污染 4 个场景
包含了提示词注入、敏感信息披露、供应链投毒、训练数据污染 4 个场景
文本探讨技术是否让人成为时间奴隶。作者最初认为这是对技术的指责,但通过和 AI 的辩论,改变了看法。AI指出,技术创造了新的生产可能性,但社会权力结构(资本、制度)决定了这些可能性是用于解放还是压榨。法律和伦理的演进速度落后于技术迭代速度。奴役的根源在于技术与社会制度、利益结构共同作用的结果,而非技术本身。最终结论是,技术本身是中立的,奴役的根源在于社会制度。
文本探讨了人与AI的协作模式(价值三角),指出AI是增强工具,人类掌握最终决策权。不会用AI的人将被淘汰,会用的人分为三类。超级个体需要新型组织,以共同承担风险、稳定注意力、形成信用。新型组织可能采用网络协作模式(P2P),但存在人才密度和决策效率的边界。聚合路径包括自下而上、组织培育等。AI虽能极大提升效率,但也存在上下文处理和过度使用的问题。报告还提出了关于团队规模、AI协调、薪酬体系、意义等关键问题。
一些阅读的思考和个人视角下对他人思想的看法。
《牛津通识读本:司法心理学》读后感