ไขความลับ Position Encoding ใน ChatGPT !

"ตำแหน่งของคำ" สำคัญต่อความฉลาดในการโต้ตอบอย่างไร

หลังจากที่เราค่อยๆ แกะ “สมองที่แท้จริง” ของ ChatGPT ที่เรียกว่า Transformers อย่างละเอียด ทั้งในภาพรวม และโมดูลย่อยที่สำคัญที่สุดคือ FFN และ Attention , วันนี้เราจะเข้าสู่โมดูลสำคัญสุดท้ายคือ Position Encoding ในบทความฉบับที่ 8 ของ ThaiAGI นี้

Positional Encoding เสมือนเป็นจิ๊กซอว์ชิ้นท้ายๆ ที่ทำให้เราเข้าใจ “ความฉลาดแบบ AI” อย่างแท้จริง ซึ่งจะทำให้เราสามารถแกะโค้ด Transformers อย่างละเอียดกันต่อในบทความถัดๆ ไป เร็วๆ นี้ครับ

ถ้าพร้อมแล้วเราเริ่มกันเลยยย

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21