โมเดลฟรอนเทียร์ของ OpenAI และ Codex พร้อมให้ใช้งานบน AWS แล้ว

 (openai.com)
2 คะแนน โดย GN⁺ 10 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • โมเดลฟรอนเทียร์ของ OpenAI และ Codex เปิดให้ใช้งานอย่างเป็นทางการบน AWS แล้ว ทำให้ลูกค้า AWS หลายล้านรายสามารถสร้างสิ่งต่าง ๆ ด้วย OpenAI บนแพลตฟอร์มที่ใช้ดำเนินธุรกิจอยู่แล้วได้
  • องค์กรสามารถนำ Frontier AI เข้าสู่โปรดักชันผ่านเวิร์กโฟลว์ ความปลอดภัย การปฏิบัติตามข้อกำหนด การจัดซื้อ การเรียกเก็บเงิน และธรรมาภิบาล ที่มีอยู่เดิม ช่วยลดแรงเสียดทานตั้งแต่การประเมินไปจนถึงการใช้งานจริง
  • OpenAI models on Amazon Bedrock ช่วยให้สร้างแอปพลิเคชัน AI ได้โดยใช้การควบคุมด้านความปลอดภัยและธรรมาภิบาลแบบเนทีฟของ AWS
  • Codex on Amazon Bedrock นำเอเจนต์วิศวกรรมซอฟต์แวร์ของ OpenAI ที่มีผู้ใช้งานมากกว่า 5 ล้านคนต่อสัปดาห์ มาสู่สภาพแวดล้อม AWS เพื่อช่วยเขียนโค้ด รีวิว ดีบัก และปรับปรุงระบบให้ทันสมัย
  • ในอนาคตจะขยายไปสู่การให้บริการ Daybreak แก่ลูกค้า AWS เพื่อนำการรีวิวโค้ดด้านความปลอดภัย การทำ threat modeling การตรวจสอบแพตช์ การวิเคราะห์ความเสี่ยงของ dependency การตรวจจับ และคำแนะนำเพื่อการปรับปรุง เข้ามาอยู่ในลูปการพัฒนาประจำวัน

นำ OpenAI เข้าสู่โปรดักชันบน AWS

  • โมเดลฟรอนเทียร์ของ OpenAI และ Codex เปิดให้ใช้งานทั่วไปบน AWS แล้ว
  • ลูกค้า AWS สามารถใช้ความสามารถของ OpenAI ผ่านแพลตฟอร์ม AWS ที่ใช้ดำเนินธุรกิจอยู่แล้วได้
  • อุปสรรคสำคัญขององค์กรอย่างกระบวนการด้านความปลอดภัย การปฏิบัติตามข้อกำหนด การจัดซื้อ การเรียกเก็บเงิน และธรรมาภิบาล สามารถจัดการได้ภายในเวิร์กโฟลว์เดิม
  • องค์กรสามารถลดอุปสรรคในการดำเนินงาน และย้ายจากขั้นประเมินไปสู่การใช้งานจริงได้รวดเร็วยิ่งขึ้น

รูปแบบการให้บริการและแผนการขยาย

  • OpenAI models on Amazon Bedrock ช่วยให้สร้างแอปพลิเคชัน AI ได้โดยใช้การควบคุมด้านความปลอดภัยและธรรมาภิบาลแบบเนทีฟของ AWS
  • Codex on Amazon Bedrock ให้บริการเป็นเอเจนต์วิศวกรรมซอฟต์แวร์ที่ช่วยทีมในการเขียนโค้ด รีวิว ดีบัก และปรับระบบให้ทันสมัย ภายในสภาพแวดล้อม AWS ที่ทีมใช้อยู่แล้วสำหรับการพัฒนาและดีพลอย
  • ทั้งสองรูปแบบการให้บริการสามารถใช้งานได้ในรีเจียน AWS Commercial และ GovCloud
  • OpenAI และ AWS มีแผนจะขยายความสามารถของ OpenAI ที่ให้บริการผ่าน AWS อย่างต่อเนื่อง เพื่อช่วยให้ทีมย้ายจากการประเมินไปสู่โปรดักชันได้ด้วยแรงเสียดทานที่น้อยลงและความมั่นใจที่มากขึ้น
  • Daybreak ที่จะเปิดให้บริการในอนาคต จะรวมทั้งโมเดลด้านไซเบอร์และ Codex Security โดยออกแบบมาเพื่อช่วยให้ผู้ป้องกันทางไซเบอร์เห็นความเสี่ยงได้เร็วขึ้น ตอบสนองได้ไวขึ้น และทำให้ซอฟต์แวร์มีความยืดหยุ่นมากขึ้น

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 10 시간 전
ความคิดเห็นจาก Hacker News

  • ทุกครั้งที่เห็นคนถามว่าทำไมถึงต้อง เชื่อใจ AWS, Azure, GCP พวกนี้ และทำไมต้องยอมจ่ายแพงกว่า ก็จะรู้สึกว่าคนนี้คงไม่เคยทำงานในสภาพแวดล้อมแบบองค์กรใหญ่
    บริษัทใหญ่ที่ผมทำงานอยู่มีข้อกำหนดด้าน data governance ที่เข้มงวดในสัญญากับลูกค้า และยังมีข้อกำหนดด้าน governance ภายในของตัวเองอีกด้วย การใช้ vendor ที่ไม่เพียงผ่านการอนุมัติจากฝ่ายความปลอดภัยสารสนเทศ แต่ยังถูกระบุไว้ในสัญญาลูกค้าอย่างชัดเจนว่าเป็น ผู้ประมวลผลข้อมูล คือหนทางที่จะเลี่ยงการถูกไล่ออกและการถูกฟ้องร้อง
    ถ้าเป็นการเล่นกับโค้ดและข้อมูลของตัวเองที่บ้าน จะใช้อะไรก็ได้ แต่กับข้อมูลของบริษัทและลูกค้า ห้ามเด็ดขาด เหตุผลเดียวกันนี้เองที่ทำให้เราไม่สามารถหยิบโมเดล frontier ใหม่ล่าสุดอะไรก็ได้มาใช้ โปรเจกต์ข้างเคียงกับสตาร์ตอัปมีข้อจำกัดและสิ่งที่ต้องคำนึงถึงต่างกันโดยสิ้นเชิง

    • ผมสงสัยว่าได้ตรวจดู สัญญา AWS จริง ๆ หรือยัง รวมถึงข้อจำกัดความรับผิดที่ระบุไว้ในสัญญาและเอกสารที่ลิงก์จากเอกสารสัญญาและเอกสารการตลาด
      ถ้าอ่านตัวหนังสือเล็ก ๆ จะพบว่าอ่านสนุกพอสมควร ความรับผิดกรณีข้อมูลสูญหายส่วนใหญ่อยู่ที่ลูกค้า การเรียกร้องตาม SLA ต้องมีหลักฐานเฉพาะเจาะจง และการเยียวยาที่ได้รับมักเป็นเครดิตสำหรับการใช้งานในอนาคตของผลิตภัณฑ์เดียวกับที่ทำข้อมูลหายนั่นเอง
      เงื่อนไขของ AWS ถือว่าสมเหตุสมผลพอสมควรเมื่อเทียบกับ GCP เสียอีก ส่วน SLA ของ GCP ดูเหมือนจะมีประโยชน์หลัก ๆ กับทีมจัดซื้อองค์กรในการพูดว่า “มี SLA นะ แปลว่าเราตรวจสอบแล้ว และเลือกอันนี้ก็คงไม่โดนไล่ออก” ขณะที่ GCP ก็สามารถพูดได้ว่า “ตอนเซ็นสัญญาคุณยอมรับแนวทางเยียวยาที่เสนอไว้แล้ว ต่อให้ฟ้องเราก็จะชี้ให้ดูข้อนั้น ขอบคุณที่ไว้วางใจ” [0]
      [0] https://docs.cloud.google.com/storage/docs/storage-classes
      Standard multi-region หรือ dual-region storage มี SLA ความพร้อมใช้งาน 99.95%, regional standard อยู่ที่ 99.9%, ส่วน regional Nearline, Coldline, Archive อาจลดลงไปถึง 99.0% เครดิตอยู่ที่ 10%, 25%, 50% ของยอดบิลรายเดือนของชั้นบริการที่ได้รับผลกระทบ โดยมีเพดานรวมต่อเดือนที่ 50% และนำไปใช้กับการใช้งานในอนาคต Google ยังระบุด้วยว่าหากลูกค้าไม่ขอเครดิตภายใน 30 วัน จะถือว่าสละสิทธิ์
    • นอกจากนี้ ยังมีความต่างมหาศาลระหว่าง “ทีมนั้นใช้ AI ไป 1,000 ดอลลาร์ ในรายงานค่าใช้จ่าย แล้วได้อะไรกลับมาบ้าง?” กับ “บิล AWS ทั้งบริษัทขึ้นไปกี่เปอร์เซ็นต์นะ เดี๋ยวว่างค่อยมาดู” ซึ่งอย่างหลังทำให้โปรเจกต์เป็นจริงได้มากกว่ามาก
    • สถานะด้านความปลอดภัยของ AWS มันต่างกัน สตาร์ตอัป AI หรือเครื่องมือสร้างเว็บแอปของสตาร์ตอัป หรือผู้ทำปลั๊กอิน VSCode มีโอกาสถูกแฮ็กและข้อมูลรั่วสูงกว่า
      AWS ก็ถูกแฮ็กได้เหมือนกัน แต่พวกเขาใส่ใจที่จะลดความเป็นไปได้นั้นลงเล็กน้อย และทำให้ติดตามได้ง่ายขึ้นว่าลูกค้ารายใดได้รับผลกระทบ ตัวอย่างเช่น ถ้าคุ้ยดูระบบ logging ของ AWS คุณจะพบว่าถ้าเปิดไว้เฉย ๆ ก็มีบันทึกทิ้งไว้เยอะมากจนสามารถไล่ย้อนดูได้ว่าใครทำอะไรกับสิทธิ์หรือสภาพแวดล้อมบ้าง ดูเหมือนว่าการเข้าถึงของพนักงาน AWS เองก็ถูกบันทึกไว้อย่างดีพอสมควร สมัยก่อนถ้าจะให้พนักงาน AWS เข้ามาแตะบัญชีของผม ต้องผ่านหลายขั้นตอน
    • พูดสั้น ๆ ก็คือ ไม่มีใครถูกไล่ออกเพราะซื้อ IBM
    • ผมเพิ่งย้ายจากสภาพแวดล้อมที่อิสระ ใช้ AI harness หรือโมเดลไหนก็ได้ มาสู่องค์กรใหญ่ที่เข้มงวด
      แล้วก็ตกใจมากที่พบว่าการใช้ GitHub Copilot license บน Azure เพียงอันเดียวมันยากแค่ไหน ทั้งที่สองอย่างก็เป็นผลิตภัณฑ์ของ Microsoft แต่ IT ต้องไปตั้งค่า GitHub Enterprise เชื่อมกับ Azure subscription และหาวิธีทำอะไรอีกสารพัด

  • ถ้าเคยใช้โมเดลเขียนโค้ด AI ในสภาพแวดล้อมองค์กรใหญ่ จะรู้ว่าการติดตั้งใช้งานในหลายองค์กรแทบจะบังคับให้ใช้ AWS Bedrock เหตุผลง่ายมาก

    1. องค์กรใหญ่มักมีความสัมพันธ์กับ AWS อยู่แล้ว ดังนั้นขั้นตอนจึงง่ายกว่าการสร้างความสัมพันธ์กับ vendor รายใหม่มาก
    2. องค์กรใหญ่มักมีข้อกำหนดภายในที่เข้มงวดว่าข้อมูลภายในต้องอยู่ภายใต้การควบคุมของบริษัท การใช้ AWS Bedrock ทำให้มั่นใจได้มากกว่าว่าสิ่งที่ป้อนเข้าโมเดลจะไม่ไหลเข้าไปอยู่ในชุดข้อมูลฝึกที่ไหนสักแห่ง ที่ที่ผมทำงาน ข้อกำหนดนี้ทำให้การใช้ OpenAI API โดยตรงเป็นไปไม่ได้ ต้องผ่าน AWS Bedrock เท่านั้น
    • ถ้าลงลึกไปอีกหนึ่งระดับ สาเหตุที่มักเพิ่ม vendor ใหม่ไม่ได้เลย ก็เพราะในสัญญาหลายฉบับที่ทำกับลูกค้า เราได้ให้สัญญาไว้ในรูปแบบต่าง ๆ ว่าจะไม่ส่งข้อมูลลูกค้าไปให้ vendor อื่น
    • สำหรับ LLM หลายตัว Bedrock ช่วยให้ควบคุมได้ว่าข้อมูลจะอยู่ในประเทศไหน ตัวอย่างเช่นใน Claude API ไม่มีการควบคุมแบบนั้น
      เราไม่ได้ทำงานอยู่ในสหรัฐฯ และมีข้อกำหนดเข้มงวดว่าข้อมูลต้องอยู่ในประเทศของเรา ซึ่ง Bedrock ให้การควบคุมตรงนี้ได้
    • เป็นประเด็นที่น่าสนใจ
      ถ้าแนวโน้มเป็นแบบนี้ ก็ชวนให้สงสัยว่า AI จะเติบโตต่อไปอย่างไร หากสมมติว่าข้อมูลที่มีค่าจำนวนมากอยู่หลังไฟร์วอลล์แบบนี้ ข้อมูลสาธารณะก็น่าจะถูกเก็บเกี่ยวไปเกือบหมดแล้ว และอาจมีการฝึกบนข้อมูลที่ได้มาอย่างไม่ถูกต้องด้วย พื้นที่นี้ยังเป็นสีเทาอยู่
      สุดท้ายแล้วมันจะกลายเป็น ระบบนิเวศแบบปิด ที่ไม่มีอินพุตจากภายนอกหรือเปล่า?
    • ผมสงสัยว่าคนเราจะมั่นใจได้อย่างไรว่า ข้อมูลบน Bedrock จะไม่ถูกย้ายไปยังผู้ให้บริการภายนอก

  • ถ้าสงสัยว่าทำไมไม่ใช้โดยตรง แต่ยอมจ่ายแพงกว่าเพื่อเข้าถึง API เหล่านี้ผ่าน AWS คำตอบคือ สำหรับบางบริษัท การขอ อนุมัติ vendor ใหม่ แทบเป็นไปไม่ได้ ถ้าบริษัทมีสัญญากับ AWS อยู่แล้ว ก็ต้องใช้สิ่งที่ AWS จัดให้

    • เดี๋ยวก่อน นี่ AWS กำลังขายต่อสิทธิ์เข้าถึงเซิร์ฟเวอร์ของบริษัท AI บางแห่ง หรือว่า AWS รันโมเดลบนฮาร์ดแวร์ของตัวเอง?
    • ต่อให้ขออนุมัติได้ ขอบเขตของ security audit ประจำปีก็กว้างขึ้น ต้องมี vendor ให้เปิดเผยในการประเมินความปลอดภัยเพิ่มอีกหนึ่งราย ข้อมูลก็ถูกกระจายไปยังผู้ประมวลผลอีกรายหนึ่ง และยังเพิ่มใบแจ้งหนี้กับการคุยเรื่องงบประมาณอีกหนึ่งก้อน
      แล้วขึ้นอยู่กับสัญญากับลูกค้า คุณอาจต้องแจ้งลูกค้าด้วยว่ามี vendor ใหม่ ซึ่งอาจกระตุ้นให้มีการตรวจทานด้านความปลอดภัยรอบใหม่ แต่ถ้าเป็นแค่การเพิ่มอีกหนึ่งโมเดลใน Bedrock ล่ะ? ง่ายกว่ากันมาก
    • ตอนนี้ CEO, บอร์ดบริหาร และผู้จัดการระดับกลางทั่วโลกต่างก็หมกมุ่นกับคำฮิตเรื่อง AI กันหมด ถ้าขอให้ทำสัญญาตรงกับ frontier lab เอง ก็ดูไม่น่าจะติดขัดจริงไหม?

  • นี่เป็นข่าวใหญ่มากสำหรับ OpenAI มีองค์กรจำนวนมากเกินคาดที่เลือกใช้ Claude เพียงเพราะใช้บน AWS ได้ และตอนนี้การแข่งขันแบบจริงจังก็เริ่มขึ้นแล้ว

  • เป็นความเคลื่อนไหวที่ดีสำหรับ OpenAI และเป็นเรื่องที่ Anthropic ควรกังวลอยู่พักใหญ่ Bedrock เคยเป็นวิธีเดียวที่ผมสามารถใช้ foundation model ได้ เพราะข้อกำหนดเรื่องการผูกกับ AWS และเรื่องความปลอดภัย

    • Claude มีให้ใช้ทั้งแบบวิ่งผ่านจาก AWS ไปยังเซิร์ฟเวอร์ของ Anthropic และแบบผ่าน Bedrock มาตั้งนานแล้ว https://aws.amazon.com/claude-platform/
      พวกเขาคงไม่ดีใจที่ความได้เปรียบจากการมาก่อนหายไป แต่ก็น่าจะคาดไว้แล้วตั้งนาน

  • เป็นข่าวดีต่อการแข่งขัน
    Claude Code ยังคงตัดฟีเจอร์ใหม่ออกสำหรับคนที่ใช้งานผ่าน Amazon Bedrock เช่น auto mode, แผน Ultra, Claude for Chrome และอื่น ๆ ถ้ามีการแข่งขันมากขึ้นอีกหน่อย อาจทำให้ต้องกลับมาทบทวนกลยุทธ์นี้ใหม่

    • เรื่องแปลกคือ Claude models บน Amazon Bedrock รองรับฟีเจอร์เหล่านั้นทั้งหมด
      ผมทำ emulator ของ api.anthropic.com มาสักพักแล้ว เพื่อ “แอบ” ส่งคำขอไปที่ Amazon Bedrock มันทำงานได้ดี และตอนนี้ก็ใช้ฟีเจอร์ที่เคยให้เฉพาะผู้ให้บริการหลักได้ทันที
    • ตอนนี้ auto mode ใช้งานบน Bedrock ได้แล้ว

  • Anthropic น่าจะต้องรีบทำ IPO รายได้ที่พุ่งแรงมหาศาลนั้นแทบเป็นผลจากการเปิดตัว Gemini ที่ล้มเหลว และการที่ OpenAI ถูกมัดมือมัดเท้าด้วย Azure
    โมเดลของ Anthropic แทบจะเป็น serverless API ที่ใช้งานได้จริงเพียงเจ้าเดียวบน AWS หรือก็คือโมเดลใน Bedrock ส่วนตระกูล Qwen 3.5/3.6 ช่วงหลังก็ไม่ได้ถูกเปิดตัวด้วยซ้ำ เมื่อบวกกับกระแสที่เน้นประสิทธิภาพต่อโทเค็นและผลตอบแทนจากการลงทุน ก็ทำให้อยากเห็นจริง ๆ ว่า Anthropic จะปิดไตรมาส 3 อย่างไร

  • frontier lab ต่าง ๆ เสนอ frozen model build ที่ให้ hyperscaler ทำหน้าที่เสิร์ฟโมเดลอย่างเดียวโดยไม่เก็บข้อมูล สำหรับบริษัทส่วนใหญ่ที่อยากใช้ frontier LLM พร้อมเก็บข้อมูลอ่อนไหวไว้ นี่คือเงื่อนไขตั้งต้น

  • นี่เป็นข่าวร้ายสำหรับ Azure เคยเป็นผู้ถูกเลือก แต่ตามดีมานด์ไม่ทัน
    ตอนที่ OpenAI ถอนตัวจากสัญญาผูกขาดโดยบอกว่า Azure ไม่นิ่งพอ ผมก็รู้แล้วว่าจุดหมายต่อไปคือ AWS