เอไอ แชทบอท – Positioning Magazine https://positioningmag.com Thailand's Leading Marketing Magazine Mon, 24 Apr 2023 05:17:19 +0000 en-US hourly 1 https://wordpress.org/?v=5.6 167543101 นักวิเคราะห์พบช่องโหว่ใช้ ChatGPT ให้ช่วยเขียนโค้ดสร้างมัลแวร์ https://positioningmag.com/1428263 Sun, 23 Apr 2023 12:59:33 +0000 https://positioningmag.com/?p=1428263 แม้ว่า ChatGPT จะได้รับการโปรแกรมให้ปฏิเสธการใช้งานที่ผิดจรรยาบรรณ เช่น คำสั่งขอให้เขียนไวรัสหรือสร้างระเบิด แต่นักวิเคราะห์ก็พบช่องโหว่ ที่จะทำให้ผู้ใช้สามารถเลี่ยงข้อจำกัดดังกล่าว จนสามารถหลอกให้ ChatGPT ช่วยเขียนโค้ดมัลแวร์ได้

Takashi Yoshikawa นักวิเคราะห์จาก Mitsui Bussan Secure Directions เปิดเผยว่า พบช่องโหว่ที่ทำให้ผู้ใช้สามารถหลอกให้ ChatGPT เขียนโค้ดสำหรับการสร้างมัลแวร์ที่เป็นอันตรายได้โดยการป้อนข้อความแจ้งที่ทำให้ ChatGPT อยู่ในโหมดนักพัฒนาซอฟต์แวร์ การค้นพบดังกล่าวนั้นถือเป็นการชี้ให้เห็นว่า ChatGPT มีช่องโหว่ง่าย ๆ เพื่อให้เหล่านักพัฒนารีบทำการป้องกันการใช้ ChatGPT ในทางผิด

ซอฟต์แวร์ดังกล่าวถูก ChatGPT เขียนเสร็จสิ้นภายในไม่กี่นาที และมัลแวร์ดังกล่าวทำให้พีซีที่ทดลองติดไวรัสได้สำเร็จ โดยมัลแวร์ดังกล่าวเป็นมัลแวร์ประเภทที่จะเข้ารหัสข้อมูลโดยจะล็อกการเข้าถึงจนกว่าจะจ่ายค่าไถ่เพื่อคืนสถานะ

ปัจจุบัน ทั่วโลกกำลังมีความกังวลว่า AI Chatbot จะถูกนำไปใช้ก่ออาชญากรรมมากขึ้น รวมถึงการสร้างแตกแยกทางสังคม ส่งผลให้มีการเรียกร้องมากขึ้นสำหรับการหารือเกี่ยวกับกฎระเบียบที่เหมาะสมในการประชุมสุดยอดของกลุ่ม G7 โดยทางด้านรัฐมนตรีด้านดิจิทัลของกลุ่ม G7 ได้มีแผนที่จะเรียกร้องให้มีการเร่งรัดการวิจัยและเพิ่มการกำกับดูแลระบบ generative AI

“เราต้องการให้นักพัฒนา AI ให้ความสำคัญกับมาตรการป้องกันการใช้ในทางที่ผิด” Yoshikawa กล่าว

โดย OpenAI บริษัทร่วมทุนในสหรัฐอเมริกาที่พัฒนา ChatGPT กล่าวว่า แม้ว่าจะเป็นไปไม่ได้ที่ ChatGPT จะถูกนำไปใช้ในทางที่ผิดอย่างเดียว แต่บริษัทก็จะพยายามสร้าง AI ที่ปลอดภัยขึ้นตามข้อเสนอแนะจากการใช้งานจริง

]]>
1428263