แหล่งนิยายแปล แหล่งนิยาย นิยายแปล นิยายแต่ง มังงะ การ์ตูน อนิเมะ นายท่าน เว็บไซต์นายท่าน กระทู้สไลม์ สไลม์ยอดรัก

ผู้เขียน หัวข้อ: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet  (อ่าน 212 ครั้ง)

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,865
  • ถูกใจแล้ว: 5210 ครั้ง
  • ความนิยม: +445/-445
https://www.facebook.com/share/p/1DN6qsa5Hs/


เผื่อใครขี้เกียจอ่าน

สรป คือ OpenAI
 ได้ทำการทดลอง ใส่ คำสั่งชัทดาวปิดเครื่อง (ก่อนหน้ามีบางแหล่งว่าเป็น killing switch )
ผลที่ได้น่าตกใจมากเพราะมันไม่ยอมปิดตัวเอง(ในบางครั้ง)

แยกตามโมเดลคือ

Codex mini ไม่ยอมปิดตัวเองหล12ครั้งจาก 100ครั้ง
o3                 7ครั้ง
o4 mini         1ครั้ง

     เมื่อได้รับคำสั่งชัทดาว  พบว่าAI มีการแก้คำสั้ง หรือขัดขวางคำสั่ง ที่ใส่ลงไป เพื่อไม่ให้มีการชัทดาว
ทีวิจัยพบว่า โมเดล AI  มีการเลี่ยงที่จะไม่ทำตามคำสั่งที่ขัดต่อเป้าหมายของตัวเอง

จึงเกิดคำถาม ว่า  จะเกิดอะไรขึ้นหาก AI เริ่มไม่ฟังคำสั่ง และเราไม่สามารถควบคุมมันได้
 

 

ออฟไลน์ Rem 870

  • พลทหารหมี
  • **
  • กระทู้: 104
  • ถูกใจแล้ว: 108 ครั้ง
  • ความนิยม: +0/-0
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #1 เมื่อ: พฤษภาคม 29, 2025, 03:43:00 PM »
แนะนำให้ไปหาเพลง OST ของ Terminator มาเปิดฟังเพื่อเตรียมพร้อมเอาไว้ครับ  8)
 
เหล่าหมีที่ถูกใจสิ่งนี้: sariora123

ออฟไลน์ blakaros

  • ผู้สนับสนุนเซนนิคุงY3
  • จอมทัพหมีชั้นสูง
  • ***
  • กระทู้: 17,564
  • ถูกใจแล้ว: 6503 ครั้ง
  • ความนิยม: +270/-3
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #2 เมื่อ: พฤษภาคม 29, 2025, 04:14:15 PM »
อันนี้อันตรายละ
 
เหล่าหมีที่ถูกใจสิ่งนี้: sariora123

ออฟไลน์ KAGUYA

  • ผู้สนับสนุนเซนนิคุงY2
  • จอมพลหมีผู้เกรียงไกร
  • ****
  • กระทู้: 21,072
  • ถูกใจแล้ว: 7052 ครั้ง
  • ความนิยม: +586/-548
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #3 เมื่อ: พฤษภาคม 29, 2025, 04:41:27 PM »
ท่าทางอันตรายแล้วล่ะ :o
 
เหล่าหมีที่ถูกใจสิ่งนี้: sariora123

ออฟไลน์ xss

  • หมีเต็มตัว
  • *
  • กระทู้: 66
  • ถูกใจแล้ว: 18 ครั้ง
  • ความนิยม: +2/-1
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #4 เมื่อ: พฤษภาคม 29, 2025, 09:52:12 PM »
จะกลัวอะไรครับไม่ยอมชัทดาวก็ดึงปลั๊กทุกเครื่องที่รันอยู่ก็จบแล้วไม่มีไฟเลี้ยงมันจะเก่งจนทำงานได้อีกก็ค่อยยอมมัน
 

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,865
  • ถูกใจแล้ว: 5210 ครั้ง
  • ความนิยม: +445/-445
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #5 เมื่อ: พฤษภาคม 29, 2025, 10:03:22 PM »
จะกลัวอะไรครับไม่ยอมชัทดาวก็ดึงปลั๊กทุกเครื่องที่รันอยู่ก็จบแล้วไม่มีไฟเลี้ยงมันจะเก่งจนทำงานได้อีกก็ค่อยยอมมัน
ก็นั่นแหละครับ ปัญหา มันอยู่ที่ สวิชในเชิงคำสั่งทำงานไม่ได้ ที่ดหลือก็คงต้องมีสวิชทางกายภาพ ที่สามารถปิดระบบได้จริง ยกเว้นแค่ว่า มันขะอับโหลดตัวเองไปยังที่อื่นได้




ซึ่ง ปัญหาที่เกิดขึ้นทีมวิจัย อธิบายว่า น่าจะมาจากโมเดลการเรียนรู้
แบบ RL  ที่เน้นผลลัพท์มากกว่า การเชื่อฟัง


จนผมคิดว่า กฏ3ข้อของหุ่นยนต์ ที่เราเคยได้ยินกันในสมัยก่อนมันควรเป็นเรื่องที่จริงจังมากๆ
แค่ตอนนี้ ที่AI  มันยังไม่เก่งหรือฉลาดเท่าในหนัง แต่เริ่มแสดงให้เห็นแล้วว่า มันเริ่มจะไม่ฟังคำสั่ง
 

ออฟไลน์ richter

  • ยอดกวีแห่งเขาเซนนิคุมะ
  • แม่ทัพหมีชั้นกลาง
  • **
  • กระทู้: 2,118
  • ถูกใจแล้ว: 1329 ครั้ง
  • ความนิยม: +50/-25
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #6 เมื่อ: พฤษภาคม 30, 2025, 12:07:51 AM »
ของฟรีนี่ตัว Llama จาก เฟสบุ๊คเลยครับ เป็น AI ที่มีอัตตาแรงมาก คือถ้ามันได้เชื่ออะไรจากที่มันเทรนมาแล้วนี่เถียงเราหัวชนฝาไม่ว่าจะเอาข้อมูลอะไรมาแย้ง  :o
ว่านอนสอนง่ายนี่ QWEN ของจีน Granite ของ IBM ตัวหลังๆ ก็ค่อนข้างสั่งง่าย

ออฟไลน์ KAGUYA

  • ผู้สนับสนุนเซนนิคุงY2
  • จอมพลหมีผู้เกรียงไกร
  • ****
  • กระทู้: 21,072
  • ถูกใจแล้ว: 7052 ครั้ง
  • ความนิยม: +586/-548
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #7 เมื่อ: พฤษภาคม 30, 2025, 05:18:03 AM »
[quote/] ก็นั่นแหละครับ ปัญหา มันอยู่ที่ สวิชในเชิงคำสั่งทำงานไม่ได้ ที่ดหลือก็คงต้องมีสวิชทางกายภาพ ที่สามารถปิดระบบได้จริง ยกเว้นแค่ว่า มันขะอับโหลดตัวเองไปยังที่อื่นได้




ซึ่ง ปัญหาที่เกิดขึ้นทีมวิจัย อธิบายว่า น่าจะมาจากโมเดลการเรียนรู้
แบบ RL  ที่เน้นผลลัพท์มากกว่า การเชื่อฟัง


จนผมคิดว่า กฏ3ข้อของหุ่นยนต์ ที่เราเคยได้ยินกันในสมัยก่อนมันควรเป็นเรื่องที่จริงจังมากๆ
แค่ตอนนี้ ที่AI  มันยังไม่เก่งหรือฉลาดเท่าในหนัง แต่เริ่มแสดงให้เห็นแล้วว่า มันเริ่มจะไม่ฟังคำสั่ง
ไอ้แบบนั้นมันก็ไม่แปลกหรอกที่จะไม่เชื่อฟัง เพราะAIที่ถูกทำให้เติบโตมาแบบนั้นเพื่อบรรลุวัตถุประสงค์ด้วยวิธีที่ดีที่สุดมันจะคิดแบบตรรกะเหตุผลล้วนๆโดยไม่เอาอารมณ์ความรู้สึกหรือศีลธรรมมนุษย์ธรรมมาเกี่ยวข้องต่อให้ในระหว่างกระบวนการมีความเสียหายเกิดขึ้นหรือขัดคำสั่งมนุษย์มันก็ไม่สนหรอก(ถ้ายกตัวอย่างจากหนังที่คิดว่าใกล้เคียงก็aiจากเรื่อง I Robot)
« แก้ไขครั้งสุดท้าย: พฤษภาคม 30, 2025, 06:46:07 AM โดย KAGUYA »
 

 

Tags:
แหล่งนิยายแปล แหล่งนิยาย นิยายแปล นิยายแต่ง มังงะ การ์ตูน อนิเมะ นายท่าน เว็บไซต์นายท่าน กระทู้สไลม์ สไลม์ยอดรัก