แนะนำ Phind-70B ประสิทธิภาพเทียบเท่า GPT-4 Turbo แต่เร็วกว่า 4 เท่า

    By: DH

    Published: Feb. 23, 2024

single_news.title

นี่คือ Phind-70B สุดยอด LLM สุดโหดตัวล่าสุด ที่ว่ากันว่าประสิทธิภาพเทียบเท่า GPT-4 Turbo แต่เร็วกว่าถึง 4 เท่า !! กันเลยทีเดียวครับ

จุดเด่นของ Phind-70B

  • คือโมเดลของ Phind (Phind-70B) ที่มีขนาดใหญ่และเร็วที่สุดในขณะนี้
  •  ประมวลผล 80 tokens/วินาที
  • ให้คำตอบคุณภาพสูงสำหรับทางด้านเทคนิค เช่น การเขียนโค้ด เป็นต้น
  • ประสบการณ์การใช้งาน (UX: User Experience) ต่อผู้ใช้ที่ดีที่สุดเมื่อเทียบกับโมเดลอื่น
  • พัฒนาจาก CodeLlama-70B ปรับแต่งเพิ่ม 50B tokens
  • รองรับการประมวลผล text input ที่ 32K tokens

เทียบประสิทธิภาพกับ GPT-4 และ GPT-4 Turbo

  • HumanEval: 82.3% (ดีกว่า GPT-4 Turbo ที่ได้ 81.1%)
  • CRUXEval: 59% (ใกล้เคียงกับ GPT-4 ที่ 62%)
  • คุณภาพเทียบเท่า GPT-4 Turbo ในการสร้างโค้ด แต่ละเอียดกว่า
  • ไม่ได้ lazy (เชื่องช้าอะไรประมาณนั้น) ในการ generate โค้ด
  • เร็วกว่า GPT-4 Turbo 4 เท่า โดยมีการประมวลผล 80+ tokens/วินาที (เทียบกับ 20 tokens ของ GPT-4)
  • ใช้ไลบรารี TensorRT-LLM บน NVIDIA H100 GPUs


เทียบประสิทธิภาพกับ GPT-4 Turbo (Image source: phind.com)

ทดลองใช้งาน Phind ในการ generate โค้ด

ไปที่หน้าเว็บ phind search



อันนี้ลองทดสอบเล่น ๆ นะครับ โดยจะให้ Phind ลอง gen โค้ดมาให้โดยใช้ prompt ดังต่อไปนี้

Write Python Flask code to integrate with LangChain.


จะได้โค้ดตามนี้ ซึ่งถือว่าค่อนข้างน่าพอใจมาก ๆ ครับ ที่สำคัญอย่างเห็นได้ชัดเลยอีกอย่างก็คือ มัน generate code ได้ไวกว่า GPT-4 จริง ๆ ครับ (โดย Phind บอกว่าไวกว่า 4 เท่า) 


เขียนโค้ดได้ไว แถมยังมี resources หรือแหล่งข้อมูลอื่น ๆ เพิ่มเติม ครบในหน้าเดียวเลย


แถมยังสามารถนำโค้ดที่ได้มารันแบบออนไลน์บน Replit ได้เลย (กดปุ่ม play ได้เลย เพราะ Phind น่าจะพาร์ทเนอร์กันกับ Replit ด้วยครับ 


นำโค้ดมารันได้ทันทีบน Replit

ตอนนี้สามารถทดลองใช้ฟรี และยังมีแพ็กเกจ Phind Pro สำหรับการใช้งานระดับสูง
ด้วยครับ โดย Phind ยังจะปล่อยโมเดล Phind-34B ในเร็ว ๆ นี้ และ Phind-70B ก็จะตามมาอีกในภายหลัง


สรุป

ได้ลองใช้แล้ว เขียนโค้ดได้ไวมาก ไม่ lazy เหมือน GPT (แถมไวกว่า GPT-4 Turbo อีก) มี resources อื่น ๆ ให้เพิ่มเติม สามารถรันโค้ดออนไลน์บน Replit ได้ โค้ดที่ได้ก็ค่อนข้างน่าพอใจ ใกล้เคียงและแม่นยำแทบจะเทียบเท่า GPT-4 เลย แถมลองใช้งานได้ทันทีโดยไม่ต้องล็อกอิน บอกได้คำเดียวว่า มันแจ่ม และรู้สึกประทับใจมากครับ


ที่มา



เปิดโลกการเขียนโปรแกรมและ Software Development ด้วย online courses ที่จะพาคุณอัพสกิลและพัฒนาสู่การเป็นมืออาชีพ เรียนออนไลน์ เรียนจากที่ไหนก็ได้ พร้อมซัพพอร์ตหลังเรียน

คอร์สเรียนเขียนโปรแกรม



ข่าวล่าสุด