Website-2025-03-31T123323

Website-2025-03-31T123323

Language Model (LLM) เป็นหัวใจสำคัญของ AI ในปัจจุบัน แต่การพัฒนาโมเดลเหล่านี้ต้องใช้ทรัพยากรจำนวนมาก ทั้งด้านการประมวลผลและหน่วยความจำ โดยเฉพาะเมื่อข้อความมีความยาวขึ้น ต้นทุนการคำนวณก็สูงขึ้นแบบก้าวกระโดด

นักวิจัยจาก Google จึงพัฒนา Titans โครงสร้างโมเดลใหม่ที่ช่วยลดปัญหานี้ มันสามารถขยายหน่วยความจำขณะทำงานได้โดยไม่เพิ่มต้นทุนมากเกินไป ต่างจากระบบ attention layers แบบเดิมที่ใช้พลังประมวลผลสูง

ก่อนหน้านี้มีความพยายามใช้ linear models ที่ประมวลผลข้อความยาวได้เร็วขึ้นและใช้ทรัพยากรน้อยลง แต่มีข้อเสียคือบีบอัดข้อมูลมากเกินไป ทำให้ความสามารถในการเข้าใจข้อความลดลง

Titans ถูกพัฒนาขึ้นเพื่อลดข้อจำกัดของโมเดลเก่าๆ โดยรักษาสมดุลระหว่างความเร็วและความสามารถในการเข้าใจข้อมูลได้ดีขึ้น ซึ่งอาจเป็นก้าวสำคัญของ AI ที่คิดและจำได้ใกล้เคียงกับสมองมนุษย์มากยิ่งขึ้น

@Wealthrepublic