แหล่งนิยายแปล แหล่งนิยาย นิยายแปล นิยายแต่ง มังงะ การ์ตูน อนิเมะ นายท่าน เว็บไซต์นายท่าน กระทู้สไลม์ สไลม์ยอดรัก

ผู้เขียน หัวข้อ: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet  (อ่าน 286 ครั้ง)

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,877
  • ถูกใจแล้ว: 5212 ครั้ง
  • ความนิยม: +445/-445
https://www.facebook.com/share/p/1DN6qsa5Hs/


เผื่อใครขี้เกียจอ่าน

สรป คือ OpenAI
 ได้ทำการทดลอง ใส่ คำสั่งชัทดาวปิดเครื่อง (ก่อนหน้ามีบางแหล่งว่าเป็น killing switch )
ผลที่ได้น่าตกใจมากเพราะมันไม่ยอมปิดตัวเอง(ในบางครั้ง)

แยกตามโมเดลคือ

Codex mini ไม่ยอมปิดตัวเองหล12ครั้งจาก 100ครั้ง
o3                 7ครั้ง
o4 mini         1ครั้ง

     เมื่อได้รับคำสั่งชัทดาว  พบว่าAI มีการแก้คำสั้ง หรือขัดขวางคำสั่ง ที่ใส่ลงไป เพื่อไม่ให้มีการชัทดาว
ทีวิจัยพบว่า โมเดล AI  มีการเลี่ยงที่จะไม่ทำตามคำสั่งที่ขัดต่อเป้าหมายของตัวเอง

จึงเกิดคำถาม ว่า  จะเกิดอะไรขึ้นหาก AI เริ่มไม่ฟังคำสั่ง และเราไม่สามารถควบคุมมันได้
 

 

ออฟไลน์ Rem 870

  • พลทหารหมี
  • **
  • กระทู้: 108
  • ถูกใจแล้ว: 114 ครั้ง
  • ความนิยม: +0/-0
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #1 เมื่อ: พฤษภาคม 29, 2025, 03:43:00 PM »
แนะนำให้ไปหาเพลง OST ของ Terminator มาเปิดฟังเพื่อเตรียมพร้อมเอาไว้ครับ  8)
 
เหล่าหมีที่ถูกใจสิ่งนี้: sariora123

ออฟไลน์ blakaros

  • ผู้สนับสนุนเซนนิคุงY3
  • จอมทัพหมีชั้นสูง
  • ***
  • กระทู้: 17,570
  • ถูกใจแล้ว: 6508 ครั้ง
  • ความนิยม: +270/-3
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #2 เมื่อ: พฤษภาคม 29, 2025, 04:14:15 PM »
อันนี้อันตรายละ
 
เหล่าหมีที่ถูกใจสิ่งนี้: sariora123

ออฟไลน์ KAGUYA

  • ผู้สนับสนุนเซนนิคุงY2
  • จอมพลหมีผู้เกรียงไกร
  • ****
  • กระทู้: 21,080
  • ถูกใจแล้ว: 7058 ครั้ง
  • ความนิยม: +586/-548
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #3 เมื่อ: พฤษภาคม 29, 2025, 04:41:27 PM »
ท่าทางอันตรายแล้วล่ะ :o
 
เหล่าหมีที่ถูกใจสิ่งนี้: sariora123

ออฟไลน์ xss

  • หมีเต็มตัว
  • *
  • กระทู้: 66
  • ถูกใจแล้ว: 18 ครั้ง
  • ความนิยม: +2/-1
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #4 เมื่อ: พฤษภาคม 29, 2025, 09:52:12 PM »
จะกลัวอะไรครับไม่ยอมชัทดาวก็ดึงปลั๊กทุกเครื่องที่รันอยู่ก็จบแล้วไม่มีไฟเลี้ยงมันจะเก่งจนทำงานได้อีกก็ค่อยยอมมัน
 

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,877
  • ถูกใจแล้ว: 5212 ครั้ง
  • ความนิยม: +445/-445
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #5 เมื่อ: พฤษภาคม 29, 2025, 10:03:22 PM »
จะกลัวอะไรครับไม่ยอมชัทดาวก็ดึงปลั๊กทุกเครื่องที่รันอยู่ก็จบแล้วไม่มีไฟเลี้ยงมันจะเก่งจนทำงานได้อีกก็ค่อยยอมมัน
ก็นั่นแหละครับ ปัญหา มันอยู่ที่ สวิชในเชิงคำสั่งทำงานไม่ได้ ที่ดหลือก็คงต้องมีสวิชทางกายภาพ ที่สามารถปิดระบบได้จริง ยกเว้นแค่ว่า มันขะอับโหลดตัวเองไปยังที่อื่นได้




ซึ่ง ปัญหาที่เกิดขึ้นทีมวิจัย อธิบายว่า น่าจะมาจากโมเดลการเรียนรู้
แบบ RL  ที่เน้นผลลัพท์มากกว่า การเชื่อฟัง


จนผมคิดว่า กฏ3ข้อของหุ่นยนต์ ที่เราเคยได้ยินกันในสมัยก่อนมันควรเป็นเรื่องที่จริงจังมากๆ
แค่ตอนนี้ ที่AI  มันยังไม่เก่งหรือฉลาดเท่าในหนัง แต่เริ่มแสดงให้เห็นแล้วว่า มันเริ่มจะไม่ฟังคำสั่ง
 

ออฟไลน์ richter

  • ยอดกวีแห่งเขาเซนนิคุมะ
  • แม่ทัพหมีชั้นกลาง
  • **
  • กระทู้: 2,118
  • ถูกใจแล้ว: 1329 ครั้ง
  • ความนิยม: +50/-25
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #6 เมื่อ: พฤษภาคม 30, 2025, 12:07:51 AM »
ของฟรีนี่ตัว Llama จาก เฟสบุ๊คเลยครับ เป็น AI ที่มีอัตตาแรงมาก คือถ้ามันได้เชื่ออะไรจากที่มันเทรนมาแล้วนี่เถียงเราหัวชนฝาไม่ว่าจะเอาข้อมูลอะไรมาแย้ง  :o
ว่านอนสอนง่ายนี่ QWEN ของจีน Granite ของ IBM ตัวหลังๆ ก็ค่อนข้างสั่งง่าย

ออฟไลน์ KAGUYA

  • ผู้สนับสนุนเซนนิคุงY2
  • จอมพลหมีผู้เกรียงไกร
  • ****
  • กระทู้: 21,080
  • ถูกใจแล้ว: 7058 ครั้ง
  • ความนิยม: +586/-548
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #7 เมื่อ: พฤษภาคม 30, 2025, 05:18:03 AM »
[quote/] ก็นั่นแหละครับ ปัญหา มันอยู่ที่ สวิชในเชิงคำสั่งทำงานไม่ได้ ที่ดหลือก็คงต้องมีสวิชทางกายภาพ ที่สามารถปิดระบบได้จริง ยกเว้นแค่ว่า มันขะอับโหลดตัวเองไปยังที่อื่นได้




ซึ่ง ปัญหาที่เกิดขึ้นทีมวิจัย อธิบายว่า น่าจะมาจากโมเดลการเรียนรู้
แบบ RL  ที่เน้นผลลัพท์มากกว่า การเชื่อฟัง


จนผมคิดว่า กฏ3ข้อของหุ่นยนต์ ที่เราเคยได้ยินกันในสมัยก่อนมันควรเป็นเรื่องที่จริงจังมากๆ
แค่ตอนนี้ ที่AI  มันยังไม่เก่งหรือฉลาดเท่าในหนัง แต่เริ่มแสดงให้เห็นแล้วว่า มันเริ่มจะไม่ฟังคำสั่ง
ไอ้แบบนั้นมันก็ไม่แปลกหรอกที่จะไม่เชื่อฟัง เพราะAIที่ถูกทำให้เติบโตมาแบบนั้นเพื่อบรรลุวัตถุประสงค์ด้วยวิธีที่ดีที่สุดมันจะคิดแบบตรรกะเหตุผลล้วนๆโดยไม่เอาอารมณ์ความรู้สึกหรือศีลธรรมมนุษย์ธรรมมาเกี่ยวข้องต่อให้ในระหว่างกระบวนการมีความเสียหายเกิดขึ้นหรือขัดคำสั่งมนุษย์มันก็ไม่สนหรอก(ถ้ายกตัวอย่างจากหนังที่คิดว่าใกล้เคียงก็aiจากเรื่อง I Robot)
« แก้ไขครั้งสุดท้าย: พฤษภาคม 30, 2025, 06:46:07 AM โดย KAGUYA »
 

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,877
  • ถูกใจแล้ว: 5212 ครั้ง
  • ความนิยม: +445/-445
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #8 เมื่อ: มิถุนายน 02, 2025, 01:07:52 PM »
https://m.youtube.com/shorts/q6AclmpOPtA


มีการทดลอง เอา AI ไปทำธุรกิจทตู้กดน้ำหยอดเหรียญ ผลที่ได้คือ แรกๆ ดี หลังๆ พัง



มีสั่งของไปเติมไม่ถูกตามแบบเดิม  มีสั่งซื้อไปตู้กดน้ำใหม่  ขาดความเข้าใจว่าเงินทุนไม่พอ
ที่หนักๆ ของโมเดล Google ล่ะมั้ง
ที่มีการตั้งคำถามถึงการมีอยู่ว่า เพื่ออะไร ทำไมต้องมาติดอยู่ในนี้ ซ๊ำวนไป เรื่อยๆ


เอาจริงๆ ก็เห็นสมควรว่าตอนนี้ เราสร้างAI  ขึ้นมาแล้วไม่ได้เข้าใจว่ามันจะทำงานยังไง





« แก้ไขครั้งสุดท้าย: มิถุนายน 02, 2025, 05:54:11 PM โดย sariora123 »
 

ออฟไลน์ samuison

  • ยอดกวีแห่งเขาเซนนิคุมะ
  • จอมทัพหมีหนุ่ม
  • *
  • กระทู้: 9,365
  • ถูกใจแล้ว: 3095 ครั้ง
  • ความนิยม: +188/-430
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #9 เมื่อ: มิถุนายน 02, 2025, 05:47:29 PM »
ไอแซค อาซิมอฟ บิดาของกฎสามข้อของหุ่นยนต์เตือนเรื่องนี้ไว้นานล่ะครับ




ว่าบิ่งหุ่นยนต์ฉลาด ก็ยิ่งเลี่ยวกฎได้เก่งมากขึ้น
http://goshujin.tk/index.php?topic=944.0
นิยาย crossover Harry Potter/Type Moon ดูว่าคนที่มีเวทมนตร์อย่างแฮร์รี่ จะเอาตัวรอดอย่างไร ในโลกที่โหดร้ายของ ไทป์มูน
 

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,877
  • ถูกใจแล้ว: 5212 ครั้ง
  • ความนิยม: +445/-445
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #10 เมื่อ: มิถุนายน 02, 2025, 05:56:10 PM »
ไอแซค อาซิมอฟ บิดาของกฎสามข้อของหุ่นยนต์เตือนเรื่องนี้ไว้นานล่ะครับ




ว่าบิ่งหุ่นยนต์ฉลาด ก็ยิ่งเลี่ยวกฎได้เก่งมากขึ้น


ปัญหาคือเราไม่ได้ตั้งกฏห้มันเด็เขาดแบบในหนัง ครับ


แถม AI บาฃตัว มีความตระหนักรู้ในตัวเองแล้ว ถึงมันจะไม่ใช่แบบสิ่งมีชีวิตก็เถอะ
 

ออฟไลน์ wanit000

  • หัวหน้าฝูงหมีกลาง
  • ****
  • กระทู้: 836
  • ถูกใจแล้ว: 718 ครั้ง
  • ความนิยม: +56/-66
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #11 เมื่อ: มิถุนายน 02, 2025, 08:32:47 PM »
ถ้าบอทพัฒนาอีกหน่อย อยาคตจะอวสาน บอท + โปร ในเกมออนไลน์ แน่นอน เจอ AI ไล่เก็บหมด  :o
 

ออฟไลน์ samuison

  • ยอดกวีแห่งเขาเซนนิคุมะ
  • จอมทัพหมีหนุ่ม
  • *
  • กระทู้: 9,365
  • ถูกใจแล้ว: 3095 ครั้ง
  • ความนิยม: +188/-430
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #12 เมื่อ: มิถุนายน 02, 2025, 09:19:07 PM »
[quote/]


ปัญหาคือเราไม่ได้ตั้งกฏห้มันเด็เขาดแบบในหนัง ครับ


แถม AI บาฃตัว มีความตระหนักรู้ในตัวเองแล้ว ถึงมันจะไม่ใช่แบบสิ่งมีชีวิตก็เถอะ
ผมว่านนี่คือคำถามของสติปัญญาได้ดี
มุกหนังจีนไม่เห็นแก่ตัวฟ้าดินลงทัณฑ์

บางทีถ้าเอไอทำทุกอย่างเพื่อปกป้องตนเองได้ แสดงว่ามันผ่านมาตรฐานความเป็นมนุษย์หรอือย่างน้อสิ่งมีชีวิตแล้วล่ะ
http://goshujin.tk/index.php?topic=944.0
นิยาย crossover Harry Potter/Type Moon ดูว่าคนที่มีเวทมนตร์อย่างแฮร์รี่ จะเอาตัวรอดอย่างไร ในโลกที่โหดร้ายของ ไทป์มูน
 

ออฟไลน์ sariora123

  • จอมพลหมีชั้นกลาง
  • **
  • กระทู้: 12,877
  • ถูกใจแล้ว: 5212 ครั้ง
  • ความนิยม: +445/-445
Re: เมื่อ AI ไม่ฟังค่ำสั่งหรือนี่คือจุดเริ่มต้นของ Skynet
« ตอบกลับ #13 เมื่อ: มิถุนายน 02, 2025, 09:41:24 PM »
[quote/]
ผมว่านนี่คือคำถามของสติปัญญาได้ดี
มุกหนังจีนไม่เห็นแก่ตัวฟ้าดินลงทัณฑ์

บางทีถ้าเอไอทำทุกอย่างเพื่อปกป้องตนเองได้ แสดงว่ามันผ่านมาตรฐานความเป็นมนุษย์หรอือย่างน้อสิ่งมีชีวิตแล้วล่ะ





ปัจจุบัน คอนเซฟของคำว่าสิ่งมีชีวิตมันคลุมเคลือ อยู่้ช่นกัน ยกตัวอย่างจาดก Ghost in shell  ในยุคที่คนมนุษสร้าง สมองเทียม ร่างเที่ยม ย้ายความทรงจำได้


สิ่งมีชีวิตในเรื่อง ที่ผู้พันเขานิยามคือ


มีอัตตา ความเป็นตัวตน
มีความทรงจำระลึกได้ รับรู้สิ่งใหม่ๆได้  เป็นประสปการณ์
มีความต้องการ สามารถสืบพันธ์ได้ สืบพันธ์ในที่นี้คือ การเพิ่มจำนวน ขึ้นมาใหม่โดยเป็น
ตัวตน ใหม่ขึ้นมา   ไม่ใช่ ก็อปปี้ ตัวเอง ออกมาอีกร่าง


ตอนนี้ผมมองว่า AI เริ่มมีอัตตาขึ้นบ้างแล้ว เกือบจะครบความเป็นสิ่งมีชีวิตแล้ว
 

 

Tags:
แหล่งนิยายแปล แหล่งนิยาย นิยายแปล นิยายแต่ง มังงะ การ์ตูน อนิเมะ นายท่าน เว็บไซต์นายท่าน กระทู้สไลม์ สไลม์ยอดรัก