Liu et al., 2023 แนะนำ GraphPrompt ซึ่งเป็นเฟรมเวิร์กการแจ้งใหม่สำหรับกราฟเพื่อปรับปรุงประสิทธิภาพในงานดาวน์สตรีม
More coming soon!
กราฟสามารถจำลองความสัมพันธ์ที่ซับซ้อนระหว่างวัตถุได้ ช่วยให้แอปพลิเคชันเว็บมากมาย เช่น การจำแนกประเภทหน้าเว็บ/บทความออนไลน์ และคำแนะนำทางสังคม ทำงานได้ดีขึ้น ในขณะที่เครือข่ายประสาทเทียมแบบกราฟ (GNNs) ได้รับการพัฒนาให้เป็นเครื่องมือที่มีประสิทธิภาพสำหรับการเรียนรู้การแสดงข้อมูลแบบกราฟ ในการตั้งค่าแบบ supervised แบบ end-to-end ประสิทธิภาพของ GNNs ขึ้นอยู่กับการดูแลแบบเฉพาะงานจำนวนมาก เพื่อลดความต้องการการติดฉลาก "การฝึกฝนล่วงหน้าและการปรับแต่ง" และ "การฝึกฝนล่วงหน้าและการกระตุ้น" ได้กลายเป็นแบบแผนที่พบได้บ่อยมากขึ้น โดยเฉพาะอย่างยิ่ง การกระตุ้นเป็นทางเลือกที่ได้รับความนิยมแทนการปรับแต่งในกระบวนการประมวลผลภาษาธรรมชาติ ซึ่งได้รับการออกแบบมาเพื่อลดช่องว่างระหว่างการฝึกฝนล่วงหน้าและวัตถุประสงค์ downstream ในรูปแบบเฉพาะงาน อย่างไรก็ตาม การศึกษาการกระตุ้นบนกราฟที่มีอยู่ยังคงจำกัด ขาดการรักษาแบบสากลเพื่อดึงดูดงาน downstream ที่แตกต่างกัน ในบทความนี้ เราเสนอ GraphPrompt กรอบการฝึกฝนล่วงหน้าและการกระตุ้นแบบใหม่บนกราฟ GraphPrompt ไม่เพียงแต่รวมการฝึกฝนล่วงหน้าและงาน downstream เข้ากับเทมเพลตงานทั่วไปเท่านั้น แต่ยังใช้การกระตุ้นที่เรียนรู้ได้เพื่อช่วยงาน downstream ในการค้นหาความรู้ที่เกี่ยวข้องมากที่สุดจากแบบจำลองการฝึกฝนล่วงหน้าในรูปแบบเฉพาะงาน สุดท้าย เราทำการทดลองอย่างละเอียดในชุดข้อมูลสาธารณะห้าชุด เพื่อประเมินและวิเคราะห์ GraphPrompt
เนื้อหาจาก : Liu et al., 2023