NobodyWho เป็นเฟรมเวิร์กโอเพนซอร์ส เป้าหมายชัดมาก ให้โมเดลข้อความ ภาพ และเสียงรันบนอุปกรณ์ของผู้ใช้โดยตรง ไม่ต้องมี API key ไม่ต้องต่อคลาวด์ และไม่เกิดค่าใช้จ่ายตามปริมาณใดๆ การประมวลผลทั้งหมดทำบนเครื่อง
จุดเด่นของฟีเจอร์และสถานการณ์การใช้งาน
แต่แรกมันสร้างเพื่อการพัฒนาเกม อยากให้ NPC ในเกมมีความสามารถสนทนาจริง แต่ก็ให้ทุกประโยคของผู้เล่นทุกคนไปยิง API ของ OpenAI ไม่ได้ ต้นทุนจะระเบิดและออฟไลน์ก็ใช้ไม่ได้ การประมวลผลบนเครื่องแก้สองปัญหานี้ พ่วงแก้เรื่องความเป็นส่วนตัวไปด้วย เนื้อหาการสนทนาไม่ได้ออกจากคอมพิวเตอร์ของผู้เล่นเลย เฟรมเวิร์กรองรับโมเดลภาษาขนาดใหญ่ speech-to-text และ text-to-speech รันข้ามแพลตฟอร์ม สำหรับนักพัฒนาอิสระ นี่หมายความว่าคุณทำผลิตภัณฑ์ที่ฟีเจอร์ AI ฟรีและใช้ได้ไม่จำกัด ซึ่งเป็นไปไม่ได้ภายใต้โมเดลธุรกิจของ API คลาวด์
เหมาะกับนักพัฒนาเกม นักพัฒนาอิสระ และสถานการณ์ใดที่มีความต้องการออฟไลน์หรือข้อกำหนดความเป็นส่วนตัว ในทางกลับกัน การประมวลผลบนเครื่องถูกจำกัดด้วยฮาร์ดแวร์ของผู้ใช้ ความสามารถของโมเดลสู้โมเดลแนวหน้าบนคลาวด์ไม่ได้ การใช้งานที่ต้องการคุณภาพสูงมากยังต้องใช้โซลูชันคลาวด์
ฟีเจอร์หลัก
- การประมวลผล AI บนเครื่องเต็มรูปแบบ ไม่ต้องมี API key
- รองรับโมเดลข้อความ ภาพ และเสียง
- รันข้ามแพลตฟอร์ม ใช้ได้กับอุปกรณ์หลากหลาย
- โปรเจกต์โอเพนซอร์ส แก้ไขและผสานเองได้
- ออกแบบสำหรับสถานการณ์โต้ตอบแบบเรียลไทม์อย่างการสนทนาของ NPC ในเกม
- ไม่มีค่าใช้จ่ายการใช้งาน ไม่คิดตามปริมาณ
การใช้งานทั่วไป
- การสร้างบทสนทนาแบบไดนามิกของ NPC ในเกม
- การพัฒนาแอป AI ในสภาพแวดล้อมออฟไลน์
- การประมวลผลเอกสารบนเครื่องที่อ่อนไหวต่อความเป็นส่วนตัว
- ฟีเจอร์ AI ของอุปกรณ์ฝังตัวและ edge
ฟีเจอร์เด่น
- การประมวลผล AI บนเครื่องเต็มรูปแบบ ไม่ต้องมี API key
- รองรับโมเดลข้อความ ภาพ และเสียง
- รันข้ามแพลตฟอร์ม ใช้ได้กับอุปกรณ์หลากหลาย
- โปรเจกต์โอเพนซอร์ส แก้ไขและผสานเองได้
- ออกแบบสำหรับสถานการณ์โต้ตอบแบบเรียลไทม์อย่างการสนทนาของ NPC ในเกม
- ไม่มีค่าใช้จ่ายการใช้งาน ไม่คิดตามปริมาณ
ข้อดี
- ฟรีเต็มรูปแบบและไม่มีต้นทุนตามปริมาณ เป็นมิตรกับโมเดลธุรกิจ
- ใช้ออฟไลน์ได้ ข้อมูลการสนทนาไม่ออกไปข้างนอก ความเป็นส่วนตัวปลอดภัยโดยธรรมชาติ
- โอเพนซอร์สตรวจและแก้ไขได้ ไม่ผูกกับซัพพลายเออร์รายเดียว
ข้อเสีย
- ความสามารถของโมเดลถูกจำกัดด้วยฮาร์ดแวร์ของอุปกรณ์ผู้ใช้
- ความเร็วและประสบการณ์การประมวลผลบนอุปกรณ์ระดับล่างต่างกันมาก
- ต้องมีความสามารถในการพัฒนา ไม่ใช่ผลิตภัณฑ์สำเร็จรูปสำหรับผู้ใช้ปลายทาง
กรณีการใช้งาน
- การสร้างบทสนทนาแบบไดนามิกของ NPC ในเกม
- การพัฒนาแอป AI ในสภาพแวดล้อมออฟไลน์
- การประมวลผลเอกสารบนเครื่องที่อ่อนไหวต่อความเป็นส่วนตัว
- ฟีเจอร์ AI ของอุปกรณ์ฝังตัวและ edge
บันทึกบรรณาธิการ
API คลาวด์ทำให้ฟีเจอร์ AI สร้างได้ง่าย แต่ก็ทำให้ทุกฟีเจอร์กลายเป็นต้นทุนที่เผาเงินต่อเนื่อง เส้นทางการประมวลผลบนเครื่องผมมองบวกมาตลอด โดยเฉพาะเกม ไม่มีใครแบกไหวที่จะให้ผู้เล่นล้านคนสนทนาไม่จำกัด เฟรมเวิร์กที่จริงจังแบบ NobodyWho เป็นข่าวดีของจริงสำหรับนักพัฒนาอิสระ
คำถามที่พบบ่อย
ความสามารถของโมเดลที่รันบนเครื่องพอไหม
เทียบกับโมเดลแนวหน้าบนคลาวด์ต้องมีช่องว่างแน่ แต่สำหรับงานอย่างการสนทนาของ NPC การจับใจความง่ายๆ speech-to-text โมเดลเล็กมักทำได้ดีพอแล้ว และต้นทุนที่ประหยัดได้มหาศาล
ต้องจ่ายเงินไหม
ไม่ต้อง โปรเจกต์ฟรีเต็มรูปแบบ โอเพนซอร์ส ไม่มี API key และไม่มีค่าใช้จ่ายตามปริมาณ ต้นทุนมีแค่ทรัพยากรการประมวลผลของอุปกรณ์ผู้ใช้
เครื่องมือ AI ที่เกี่ยวข้อง
Claude
AI ผู้ช่วยจาก Anthropic ที่โดดเด่นด้านการประมวลผลข้อความยาวๆ และการสนทนาที่ปลอดภัย
AtScale
ชั้นความหมายทั่วไปเจ้าเก่า ให้ BI และ AI ใช้นิยามตัวชี้วัดชุดเดียวกัน
Promethium
ชั้นข้อมูลองค์กรที่ค้นข้ามระบบได้โดยตรง ให้เอเจนต์ AI ได้คำตอบที่มีบริบท
Prized
ให้ฝ่ายปฏิบัติการ บริการลูกค้า และการเงินสร้างเครื่องมือภายในเอง สิทธิ์และการตรวจสอบคุมโดยโครงสร้างพื้นฐาน
bitdrift
observability แบบเรียลไทม์สำหรับแอปมือถือ เก็บ log ไว้บนเครื่องก่อน ต้องการค่อยดึง
Supermemory
ชั้นความจำของเอเจนต์ AI เก็บความชอบและความรู้ของผู้ใช้เป็นกราฟที่ค้นได้