利用嵌入的通用几何结构
Harnessing the Universal Geometry of Embeddings
Rishi Jha, Collin Zhang, Vitaly Shmatikov, John X. Morris
https://arxiv.org/abs/2505.12540
我们首次提出无需配对数据、编码器或预定义匹配集即可实现文本嵌入在不同向量空间转换的方法。这种无监督方法可将任意嵌入映射至通用潜在表示(即柏拉图表示假设提出的通用语义结构),并实现双向转换。我们的转换在架构参数量级不同、训练数据集各异的模型对之间实现了高余弦相似度。
这种保持几何特性转换未知嵌入向量的能力,对向量数据库安全具有重大影响。攻击者仅凭嵌入向量即可提取底层文档的敏感信息,足以进行内容分类和属性推断。
作者的讲解帖子
https://fixupx.com/jxmnop/status/1925224612872233081
https://fixupx.com/rishi_d_jha/status/1925212069168910340
Harnessing the Universal Geometry of Embeddings
Rishi Jha, Collin Zhang, Vitaly Shmatikov, John X. Morris
https://arxiv.org/abs/2505.12540
我们首次提出无需配对数据、编码器或预定义匹配集即可实现文本嵌入在不同向量空间转换的方法。这种无监督方法可将任意嵌入映射至通用潜在表示(即柏拉图表示假设提出的通用语义结构),并实现双向转换。我们的转换在架构参数量级不同、训练数据集各异的模型对之间实现了高余弦相似度。
这种保持几何特性转换未知嵌入向量的能力,对向量数据库安全具有重大影响。攻击者仅凭嵌入向量即可提取底层文档的敏感信息,足以进行内容分类和属性推断。
作者的讲解帖子
https://fixupx.com/jxmnop/status/1925224612872233081
https://fixupx.com/rishi_d_jha/status/1925212069168910340
arXiv.org
Harnessing the Universal Geometry of Embeddings
We introduce the first method for translating text embeddings from one vector space to another without any paired data, encoders, or predefined sets of matches. Our unsupervised approach...
🤯7🤔1🤩1
🔥11🤩1
YDPFa:
#ガールズバンドクライ
#になもも
#100日チャレンジ
hug (68/100)
https://twitter.com/YDPFALION/status/1925190773588611459
#ガールズバンドクライ
#になもも
#100日チャレンジ
hug (68/100)
https://twitter.com/YDPFALION/status/1925190773588611459
🍓9🥰2💋1
Diffusion is Spectral Autoregression
https://sander.ai/2024/09/02/spectral-autoregression.html
https://sander.ai/2024/09/02/spectral-autoregression.html
Sander Dieleman
Diffusion is spectral autoregression
A deep dive into spectral analysis of diffusion models of images, revealing how they implicitly perform a form of autoregression in the frequency domain.
大型语言模型不具备类人工作记忆能力
LLMs Do Not Have Human-Like Working Memory
Jen-tse Huang, Kaiser Sun, Wenxuan Wang, Mark Dredze
https://arxiv.org/abs/2505.10571
人类工作记忆是一种主动的认知系统,不仅能实现信息的临时存储,还能支持信息的加工与运用。缺乏这种机制可能导致个体产生不真实的对话内容、出现自相矛盾,以及在需要心理推理的任务中表现欠佳。本文通过三项实验研究(1)数字猜测游戏(2)是非问答游戏(3)数学魔术,论证当前主流大语言模型尚未具备这种类人的认知能力,这将成为实现通用人工智能的重要障碍。在多个模型系列上的实验结果表明,现有模型在这些场景下均未能展现出类人的认知行为。通过揭示这一局限性,我们呼吁学界进一步探索如何提升大语言模型的工作记忆能力。
LLMs Do Not Have Human-Like Working Memory
Jen-tse Huang, Kaiser Sun, Wenxuan Wang, Mark Dredze
https://arxiv.org/abs/2505.10571
人类工作记忆是一种主动的认知系统,不仅能实现信息的临时存储,还能支持信息的加工与运用。缺乏这种机制可能导致个体产生不真实的对话内容、出现自相矛盾,以及在需要心理推理的任务中表现欠佳。本文通过三项实验研究(1)数字猜测游戏(2)是非问答游戏(3)数学魔术,论证当前主流大语言模型尚未具备这种类人的认知能力,这将成为实现通用人工智能的重要障碍。在多个模型系列上的实验结果表明,现有模型在这些场景下均未能展现出类人的认知行为。通过揭示这一局限性,我们呼吁学界进一步探索如何提升大语言模型的工作记忆能力。
arXiv.org
Language Models Do Not Have Human-Like Working Memory
While Large Language Models (LLMs) exhibit remarkable reasoning abilities, we demonstrate that they fundamentally lack a core aspect of human cognition: working memory. Human working memory is an...
🤷♀10👀3👍1🤮1💩1🤡1
Physics🛰️:
Falcon Heavy Orion + ICPS
Kinda mess with this tbh...
https://twitter.com/Physics_on_KSP/status/1926107563810009270
Falcon Heavy Orion + ICPS
Kinda mess with this tbh...
https://twitter.com/Physics_on_KSP/status/1926107563810009270
Physics🛰️:
Rockets to put Orion on in KSP
Ariane 5
Ariane 6
Starship
SuperHeavy only
Falcon Heavy
Falcon Heavy with ICPS
V2
Neutron
LVM3
Soyuz
N1
I leave for Hawaii in a day and a half lmao I will try to crank these out😭🙏
https://twitter.com/Physics_on_KSP/status/1925586007405015211
🔥1
Forwarded from Hacker News
Why Algebraic Effects? (Score: 151+ in 6 hours)
Link: https://readhacker.news/s/6uZCU
Comments: https://readhacker.news/c/6uZCU
Link: https://readhacker.news/s/6uZCU
Comments: https://readhacker.news/c/6uZCU
Ante
Why Algebraic Effects?
For exploring algebraic effects, safe shared mutability, and other novel features
SpaceX Starship 第九次发射将于北京时间 2025-05-28 07:30 (美中时间 2025-05-27 18:30) 左右进行,窗口时长60分钟。本次发射将大致重复 Flight 7 和 8 的飞行轨迹,在印度洋溅落二级,但不会尝试回收一级。
https://fixupx.com/SpaceX/status/1925928907779318137
官网:https://www.spacex.com/launches/mission/?missionId=starship-flight-9
直播:https://x.com/i/broadcasts/1OwxWXMRAXmKQ
本次执飞的一级 B14 将会是第一枚回收后复用的 Superheavy,此前在一月的 Flight 7 中与 S33 组合飞行过,周转时间 131 天。同一任务中使用过的 29(/33) 台 Raptor 引擎将会被复用。本次的一级会在模拟的回收中进行多项测试,包括堵住热分离环上的几个开口来控制分离后一级翻转的方向,在返回过程中以更大的迎角滑行来减少燃料消耗,并在着陆阶段故意关闭中心三台引擎中的一台来测试引擎冗余性。最后 B14 将在墨西哥湾中进行模拟发射塔捕捉机动并硬溅落。
本次执飞的二级 S35 会是第三艘飞行的 Block 2 Starship,有多项硬件改进。官方称 Flight 7 和 Flight 8 的故障时间点虽然相似但是原理截然不同,详情请看 Flight 8 事故调查摘要:https://www.spacex.com/updates/#flight-8-report 。S35 将尝试进行前两次任务中未完成的 Starlink 载荷模拟器部署测试,并在再入过程中验证 Block 2 的新襟翼设计。
https://fixupx.com/SpaceX/status/1925928907779318137
官网:https://www.spacex.com/launches/mission/?missionId=starship-flight-9
直播:https://x.com/i/broadcasts/1OwxWXMRAXmKQ
本次执飞的一级 B14 将会是第一枚回收后复用的 Superheavy,此前在一月的 Flight 7 中与 S33 组合飞行过,周转时间 131 天。同一任务中使用过的 29(/33) 台 Raptor 引擎将会被复用。本次的一级会在模拟的回收中进行多项测试,包括堵住热分离环上的几个开口来控制分离后一级翻转的方向,在返回过程中以更大的迎角滑行来减少燃料消耗,并在着陆阶段故意关闭中心三台引擎中的一台来测试引擎冗余性。最后 B14 将在墨西哥湾中进行模拟发射塔捕捉机动并硬溅落。
本次执飞的二级 S35 会是第三艘飞行的 Block 2 Starship,有多项硬件改进。官方称 Flight 7 和 Flight 8 的故障时间点虽然相似但是原理截然不同,详情请看 Flight 8 事故调查摘要:https://www.spacex.com/updates/#flight-8-report 。S35 将尝试进行前两次任务中未完成的 Starlink 载荷模拟器部署测试,并在再入过程中验证 Block 2 的新襟翼设计。
FixupX
SpaceX (@SpaceX)
The ninth flight test of Starship is preparing to launch as soon as Tuesday, May 27 → http://spacex.com/launches/mission/?missionId=starship-flight-9
Forwarded from Solidot
CycloneDX Rust 漏洞悬赏项目因 AI 报告涌入而关闭
2025-05-24 21:31 by 杜马岛
CycloneDX Rust (Cargo)插件项目有漏洞悬赏项目,资金来自于德国主权科技基金(Sovereign Tech Fund)的 Bug Resilience Program,但由于大量 AI 生成的漏洞报告涌入,开发者在 GitHub 上宣布关闭该项目。开发者称他们收到的报告几乎全都是 AI 生成的垃圾,与 CycloneDX Rust (Cargo)插件根本没有关系,绝大多数报告者甚至都懒得阅读规则或者了解该工具的用途。AI 生成的报告增加了额外的工作,所以他们决定关闭该项目。开发者最后说,“感谢 AI。”
github.com/CycloneDX/cyclonedx-rust-cargo/pull/786
#人工智能
2025-05-24 21:31 by 杜马岛
CycloneDX Rust (Cargo)插件项目有漏洞悬赏项目,资金来自于德国主权科技基金(Sovereign Tech Fund)的 Bug Resilience Program,但由于大量 AI 生成的漏洞报告涌入,开发者在 GitHub 上宣布关闭该项目。开发者称他们收到的报告几乎全都是 AI 生成的垃圾,与 CycloneDX Rust (Cargo)插件根本没有关系,绝大多数报告者甚至都懒得阅读规则或者了解该工具的用途。AI 生成的报告增加了额外的工作,所以他们决定关闭该项目。开发者最后说,“感谢 AI。”
github.com/CycloneDX/cyclonedx-rust-cargo/pull/786
#人工智能
😁13😡8
おみなえし🍊佐渡ライフ5巻7月発売!!🍤🍤🍤🍤:
こんな幼馴染がいてほしい96
「よしよし…ハグするとストレス減るし幸せになるんだよ~」
https://twitter.com/ominaeshin/status/1926224153948102818
こんな幼馴染がいてほしい96
「よしよし…ハグするとストレス減るし幸せになるんだよ~」
https://twitter.com/ominaeshin/status/1926224153948102818
😭4🥰2❤1🤗1