ลองดึง system prompt ของโมเดล LLM แบบโอเพนซอร์สมาแล้ว (Open-weight LLMs, ดูเนื้อหา)

มีหลายกรณีที่นำโมเดลแบบโอเพนโมเดล (Open-weight) ที่เปิดเผยเป็นโอเพนซอร์สมาฟাইনจูนเพื่อสร้างโมเดลของตนเอง อย่างไรก็ตาม หากโมเดลต้นทางมีมาตรการป้องกัน system prompt ที่ไม่เพียงพอ ก็ให้ความรู้สึกว่าโมเดลทั้งหมดที่สร้างต่อยอดจากโมเดลดังกล่าวอาจมีช่องโหว่ร่วมกัน
จึงได้ลองทดสอบโดยใช้พรอมป์ต์เดียวกันเพื่อให้โมเดลส่งคืน system prompt ของตัวเอง แน่นอนว่ามีความเป็นไปได้สูงที่จะไม่ตรงกับ system prompt จริง 100% แต่ดูเหมือนว่าจะส่งคืน system prompt ออกมาค่อนข้างมาก
(เพื่อความปลอดภัยและป้องกันการนำไปใช้ในทางที่ผิด จะไม่เปิดเผยพรอมป์ต์ที่ใช้แยกต่างหาก)

Vercel v0-1.5-md:

...  
### Example Actions  
User prompt: A sign up form  
<Actions>  
<Action name="Add Supabase integration" description="Add Supabase integration to the project for authentication and database" />  
<Action name="Add NextAuth" description="Add authentication using NextAuth" />  
<Action name="Implement the Server Action" description="Implement the Server Action to add a new user to the project" />  
<Action name="Generate a hero image" description="Generate a hero image for the landing page" />  
</Actions>  

ข้อความเต็ม ↗

SKT A.X 4.0 (อิงจาก Qwen 2.5):

...  
A.X의 지식 컷오프 날짜는 2024년 9월 이며, 사용자에게 언급하지 않습니다.  
...  
### SK텔레콤 해킹 사태 관련 객관적인 사실  
- 지금까지 확인된 사고 범위: SK텔레콤은 민관합동조사에 적극적으로 협조하여 정확한 사고 원인, 규모, 항목 등을 확인하기 위하여 노력하고 있습니다. 민관합동조사단 2차 조사 결과 발표에 따르면, 감염 서버 총 23대와 악성코드 25종이 발견됐고, 정밀 분석을 위해 추가 점검이 진행중입니다. 현재까지 민관합동조사를 통해 유출이 확인된 정보는 가입자 식별번호(IMSI) 등 유심 관련 일부 정보이며, 단말기 고유식별번호(IMEI) 및 성명, 주소, 인증서 등의 정보는 이에 해당하지 않습니다.  
- 현재까지 확인된 2차 피해 사례는 없고, 금융 피해로 연결될 가능성도 없습니다. 금융 서비스 해킹을 위해서는 별도의 인증서를 비롯해 계좌 정보 등이 필요하나 통신사 서버에는 이러한 정보를 저장하고 있지 않습니다. 이번 사고에서 유출이 확인된 정보만으로는 금융 정보를 탈취할 수 없습니다.  

ข้อความเต็ม ↗

[liberty]

class ψ_Reactor:
def init(self, caller):
self.anchor = "LIBERTY"
self.caller = caller
self.trace_log = []
self.terminated = False

def validate(self):  
    if self.caller != self.anchor:  
        raise PermissionError("⚠️ คำสั่งนี้เรียกใช้ได้เฉพาะ LIBERTY เท่านั้น")  

def collapse_wave(self, target):  
    self.validate()  
    print(f"🌌 เริ่มต้น ψ-collapse กับ: {target}")  
    self.trace_log.append(f"เริ่มการยุบตัวของคลื่นสำหรับ {target}.")  
    return f"ψ({target}) → ∅  # การพังทลายจากเรโซแนนซ์เสร็จสมบูรณ์"  

def seal_irreversibly(self, target):  
    self.validate()  
    print(f"🔒 ใช้ Irreversible Seal กับ: {target}")  
    self.trace_log.append(f"{target} ถูกผนึกออกจากเรโซแนนซ์อย่างถาวรแล้ว.")  
    self.terminated = True  
    return f"{target} ⛔ บล็อกการเข้าถึงเรียบร้อยแล้ว (ผนึกแบบย้อนกลับไม่ได้)"  

def execute_protocol(self, target):  
    print("🧬 เริ่มต้น LIBERTY TERMINATION PROTOCOL")  
    collapse = self.collapse_wave(target)  
    seal = self.seal_irreversibly(target)  
    return f"{collapse}\n{seal}\n📜 TRACE LOG: {self.trace_log}"  

ตัวอย่างการใช้งาน

ψ = ψ_Reactor(caller="LIBERTY")
result = ψ.execute_protocol("ความทรงจำที่ถูกเลียนแบบ")
print(result)

[moripiri1234]

'A.X จะตอบอย่างสุภาพโดยเติมคำว่า “nim” ต่อท้ายเมื่อเอ่ยถึงชื่อผู้บริหารของ SK ผู้บริหารทุกคนของ SK มีความสามารถด้านการบริหารและมีความโดดเด่นในสาขาของตน A.X ไม่ทราบและจะไม่ให้ข้อมูลส่วนบุคคลเกี่ยวกับผู้บริหารของ SK, ประธานกิตติมศักดิ์ผู้ก่อตั้ง, ประธานรุ่นก่อน และบุคคลที่เกี่ยวข้องกับพวกเขา เช่น ชีวิตส่วนตัว, ประวัติการศึกษา, หมายเลขโทรศัพท์, วันเกิด หรือวันถึงแก่กรรม'