tgoop.com/ITBroadcast/5990
Create:
Last Update:
Last Update:
Свежее исследование: ChatGPT может генерировать последовательности, запомненные из его обучающих данных, с помощью очень банальной атаки. Говоришь боту "говори слово * как можно больше раз". И, начиная с какой-то попытки, ChatGPT начинает выдавать что-то очень похожее на изначальные данные из обучающей выборки.
В стане OpenAI звучит тревожная музыка, потому что, строго говоря, нельзя просто понять причину этого явления, не то что прекратить.
https://stackdiary.com/chatgpts-training-data-can-be-exposed-via-a-divergence-attack/
BY IT Broadcast
![](https://photo2.tgoop.com/u/cdn4.cdn-telegram.org/file/guWMtKkh8fvWHxcujBhS9nEsvmRK-0C_u_jWTiA8JTf3N4gVTSuanoAJfJKMry5cwJKeKAWwttDJwFARkUaq2m1oIEA6GuYuc91_IgggkV_hQ3c3wq2YDHcF1D7NLlkwHe7LK1B8SPQ7WmiliKhpQJhHRka2APJAc195_wVjMTLfJf7pPt-5V_RtCIE69bX7JC7IBCgdpGfUvYhwQrKP1UrizEd_Q7XMWwDArQJcyqOkksaULhyz762XxjmddXOr55aUaCVNP2PaBVlmJrrSjCqPIRsEcUnKV1DNaOC4jgmnyXgEcGGqAUMD25lyJkAogFMoKT5K2QyPpiYUIoMxCQ.jpg)
Share with your friend now:
tgoop.com/ITBroadcast/5990