Rorical To boldly go where no man has gone before.

LLM的逆转诅咒极其正常

今天终于找到短的一点点时间写一下自己的想法。 如下是描述了 LLM(大语言模型)经过研究后发现的一个缺点,被称作“逆转诅咒”。 主要发现是:如果一个LLM在训练数据中学习到“A是B”这样的句子,它通常不能推导出反方向的“B是A”。比如模型学到“奥拉夫·朔尔茨是德国第九任总理”,但问它“谁是德国第九任

Rorical 发布于 2023-10-08

语音合成简述

最近在捣鼓 text-to-speech 和 voice-conversion。整个发展史我不是很清楚,所以就写点现有的吧。 二阶段模型 (Two-Stage) Tacotron2 我一开始接触到的 TTS 应该是 Nvidia 的 Tacotron2。它把文本通过转换生成梅尔频谱 (Mel-Spe

Rorical 发布于 2023-07-18