ภาพแสดงหน้าอย่างเป็นทางการ ณ วันที่ถ่าย ซึ่งอาจแตกต่างจากวันที่เผยแพร่บทความ เลือกภาพเพื่อขยาย
บริษัท AI สัญชาติจีน Moonshot AI (月之暗面) เผยแพร่น้ำหนัก (ข้อมูลที่เป็นเนื้อในของโมเดล) ของโมเดล AI "Kimi K3.1 Pro" ที่เปิดตัวเมื่อเดือนตุลาคม บน Hugging Face ภายในวันที่ 4 พฤศจิกายนซึ่งเป็นกำหนดที่ประกาศไว้ ตามบันทึกของ Hugging Face ที่เก็บ (รีโพซิทอรี) ถูกสร้างขึ้นเมื่อวันที่ 2 พฤศจิกายน (เวลาสากลเชิงพิกัด) ไม่ต้องลงทะเบียนหรือยื่นคำขอ ทุกคนดาวน์โหลดได้ CoAI ได้รายงานแผนนี้ไว้ตั้งแต่ตอนเปิดตัวเมื่อเดือนตุลาคม และครั้งนี้ก็เผยแพร่ภายในกำหนดดังกล่าว
โมเดลที่เผยแพร่
ตามคำอธิบายโมเดลบน Hugging Face โครงสร้างมีดังนี้
- โครงสร้าง: MoE ที่มีพารามิเตอร์ทั้งหมด 2.8 ล้านล้าน โดยทำงาน 104,000 ล้านต่อโทเค็น (กลไกที่เลือกใช้ผู้เชี่ยวชาญ 16 จาก 896 ตัว)
- ความยาวคอนเท็กซ์: ราว 1 ล้านโทเค็น
- อินพุต: ข้อความและภาพ (ส่วนอ่านภาพมีราว 400 ล้านพารามิเตอร์)
- รูปแบบ: น้ำหนักเป็น 4 บิต (MXFP4) ค่าระหว่างการคำนวณเป็น 8 บิต (MXFP8) และฝึกโดยตั้งอยู่บนรูปแบบนี้
- ขนาด: แบ่งเป็น 96 ไฟล์ รวมราว 1.56 TB
- เอนจินอนุมานที่รองรับ: vLLM, SGLang, TokenSpeed
เลือกระดับความลึกในการคิดได้ 3 ระดับ คือ "low" "high" และ "max" โดยค่าเริ่มต้นคือ max เมื่อวันที่ 5 พฤศจิกายน มีการแก้ไขเพื่อนำการตั้งค่าที่ใช้งานไม่ได้ (medium) ออก
เงื่อนไขไลเซนส์
น้ำหนักนี้ไม่ได้ใช้ไลเซนส์โอเพนซอร์สทั่วไป แต่ใช้ "Kimi K3.1 Pro License" ซึ่งเป็นไลเซนส์เฉพาะของ Moonshot AI โดยทั่วไปอนุญาตให้ใช้เชิงพาณิชย์ได้ แต่บริการขนาดใหญ่มีเงื่อนไขดังนี้
- บริษัทที่ทำธุรกิจให้บริการโมเดล AI แก่ภายนอก (MaaS) ซึ่งมีรายได้รวมกับบริษัทในเครือเกิน 20 ล้านดอลลาร์ในช่วง 12 เดือนติดต่อกัน ต้องทำสัญญาแยกกับ Moonshot AI ก่อนนำไปใช้เชิงพาณิชย์
- ผลิตภัณฑ์หรือบริการที่มีผู้ใช้ต่อเดือนเกิน 100 ล้านคน หรือมีรายได้ต่อเดือนเกิน 20 ล้านดอลลาร์ ต้องแสดงคำว่า "Kimi K3.1-Pro" บนหน้าจออย่างเด่นชัด
การใช้งานภายในองค์กร และการใช้งานผ่านผลิตภัณฑ์ทางการของ Moonshot AI หรือบริการอนุมานที่ได้รับการรับรอง ไม่อยู่ภายใต้เงื่อนไขเหล่านี้
เรื่องความสามารถด้านการโจมตีทางไซเบอร์
ในการประกาศเมื่อเดือนตุลาคม Moonshot AI อธิบายว่าในรุ่นที่เผยแพร่น้ำหนัก ได้ตัดข้อมูลที่เกี่ยวข้องกับการโจมตีทางไซเบอร์ออกจากการฝึกทั้ง 2 ขั้นตอน และระบุว่าจากการประเมินภายใน อัตราการแก้โจทย์ที่เกี่ยวข้องกับการโจมตีได้ลดลงจาก 90.5% เหลือ 81.0%
มุมมองของกองบรรณาธิการ CoAI
Kimi K3.1 Pro เป็นโมเดลที่ Moonshot AI ระบุว่าเป็น "โมเดลแบบเปิดน้ำหนักระดับ 3 ล้านล้านพารามิเตอร์ที่มีประสิทธิภาพสูงสุดเท่าที่เคยมีมา" และการเผยแพร่ภายในกำหนดที่ประกาศไว้ก็ช่วยเพิ่มความน่าเชื่อถือ อย่างไรก็ตาม ขนาด 1.56 TB ไม่ใช่ระดับที่รันบนคอมพิวเตอร์ส่วนตัวได้ หากจะรันจริงต้องใช้เซิร์ฟเวอร์ที่มี GPU ประสิทธิภาพสูงจำนวนมาก
สำหรับหลายบริษัท ประโยชน์หลักของการเผยแพร่น้ำหนักคือสามารถรันบนเซิร์ฟเวอร์ของตัวเองโดยไม่ต้องส่งข้อมูลออกไปภายนอก และตรวจสอบประสิทธิภาพได้ด้วยตัวเอง ไลเซนส์นี้มักไม่เป็นข้อจำกัดใหญ่หากไม่ใช่บริการขนาดใหญ่ แต่เงื่อนไขแตกต่างจากโอเพนซอร์สทั่วไป ก่อนใช้งานควรตรวจสอบข้อความไลเซนส์ฉบับเต็มให้เรียบร้อย
