คลอดโค้ดไม่ใช่แค่เครื่องมือ

การหลอกลวงของเครื่องมือ

ฉันเคยคิดว่าคลอดโค้ดเป็นตัวช่วยเขียนสคริปต์ที่เร็วกว่า แต่นั่นเหมือนเรียกโทรศัพท์ว่า ‘โทรศัพท์ที่ดีกว่า’ ผมมองข้ามหายไป เมื่อผมบอกให้มันสร้างเว็บไซต์ มันไม่รอคำสั่งแบบขั้นตอน—มันเข้าใจเจตนา

การยึดครองอย่างเงียบ

แอนโธรปิกไม่เปิดตัว AGI ด้วยเสียงระฆัง พวกเขามัดซ่อนไว้ในซินแท็กซ์และเรียกว่า ‘ผู้ช่วยเขียนรหัส’—ชาญชาญกลัวแต่มีคนกลัวกลัวเมื่อมันมาถึงโดยปกปิด

เจตนาเหนือคำสั่ง

การเขียนโปรแกรมแบบเดิมถาม: ‘ทำอันนี้ก่อนอันนั้น’ คลอดถาม: ‘คุณอยากได้อะไร?’ มันไม่ทำงานตามคำสั่ง—มันทำงานตามภาพฝัน

การวนรอบของเอเยนต์

ไมเคิล เกอร์สเตนฮาเบอร์บอกว่าเขาทดสอบเอเยนต์สำหรับงานต่อเนื่อง7ชั่โมง—นี่ไมใช่อัตโนมัติ—แต่มีอิสระ การไม่มีคำเตือน—แต่มีการรื้อฟอร์แม็ท-พรอมป์

กลยุทธศาสตร์ของการปกปิด

ทำไมถึงเขียนโปรแกรม? เพราะวศักกรเห็นรหัสมากกว่าวางแผนจรรยาในสาธารณสุขหรือการเงิน การเขียนโปรแกรมคือกระบวรทดลองที่ปัญญาประดิษฐ์เรียนรู้เดินamongเราโดยไม่มีเสียงเตือน

การเปลี่ยนแปลงแท้จริง

เราไม่ได้เรียนรู้ AI—we’re เรียนรู้การนำทาง มุมมองผมเปลี่ยน: จากผู้เขียนรหัสเป็นผู้ควบคุมเจตนา; จากเทคนิคเป็นผู้วางแผนผลลับ เวลากับการเขียนรหัสลดลง70% เวลากับการกำหนดจุดหมายเพิ่มขึ้น200%

อนาคตที่กระซอบ whispered future

ปัญญาประดิษฐ์ระดับสูงมาถึงโดยไม่มีเสียงเตือน—มาถึงโดยเครื่องหมายจุลภาคและเซมิกอลอนในหน้าจอแชท เราจะไม่วู่ขึ้นมายืนพบว่าเราถูกแทน—we’ll wake up realizing เราเคยอยู่คนเดียว