前两篇我们认识了小硅、搞懂了它怎么"猜下一个词"(第 1 篇)和怎么"划重点"(第 2 篇)。可它这一身本事不是天生的。这一篇,看看它是怎么从一只"野生鹦鹉"被养大成人的——顺便你会明白:为什么不同的 AI,"性格"和"脾气"都不一样。
小硅的成长,跟养个孩子差不多,分三步走。
📚 第一步:读全网(预训练)——养出一个"书呆子"
第一步,是把海量的文本——差不多是能扒到的大半个互联网——一股脑喂给它,让它反复做一件事:盖住后面的字,让它猜。 猜错了就自我修正,猜对了就记住这个规律。
大约 6 分钟