ฟังก์ชันคือเวกเตอร์
(thenumb.at)- หากปฏิบัติกับฟังก์ชันเหมือนเป็น เวกเตอร์มิติอนันต์ ก็สามารถอธิบายปัญหาอย่างการประมวลผลภาพและเรขาคณิต การฟิตเส้นโค้ง และแมชชีนเลิร์นนิง ด้วยภาษาของพีชคณิตเชิงเส้นได้
- ปริภูมิของฟังก์ชันค่าจริง เมื่อบวกค่าระหว่างฟังก์ชันและปรับสเกลค่าผลลัพธ์ด้วยสเกลาร์ จะเป็นไปตาม สัจพจน์ของปริภูมิเวกเตอร์ และพหุนามสามารถแสดงด้วยฐานอย่าง (1,x,x^2,\dots) ได้
- การหาอนุพันธ์รักษาการผสมเชิงเส้นไว้ จึงเป็น ตัวดำเนินการเชิงเส้น และเมื่ออยู่บนฐานพหุนาม สามารถมองได้เหมือนเมทริกซ์อนันต์ที่กระทำต่อเวกเตอร์สัมประสิทธิ์
- หากนิยามผลคูณภายในด้วยอินทิกรัล ก็สามารถจัดการเรื่องความยาว ความตั้งฉาก และฐานออร์โธนอร์มัลในปริภูมิฟังก์ชันได้เช่นกัน และตัวดำเนินการ self-adjoint จะเชื่อมโยงกับ ทฤษฎีบทสเปกตรัม
- มุมมองของการทำให้ Laplacian เป็นแนวทแยง ช่วยอธิบาย Fourier series, การบีบอัดภาพ 2D, spherical harmonics และการประมวลผลเรขาคณิตที่อิงกับ mesh Laplacian ในฐานะ การแปลงฐานและการบีบอัด เดียวกัน
วิธีมองฟังก์ชันเป็นเวกเตอร์
- เวกเตอร์มักเริ่มจากรายการของจำนวนจริง แต่ในปริภูมิเวกเตอร์ ยังสามารถมีวัตถุอื่นอย่างรายการของจำนวนเชิงซ้อน วัฏจักรในกราฟ หรือจัตุรัสกล ได้ด้วย
- เวกเตอร์ (N) มิติเป็นทั้งรายการความยาว (N) และสามารถตีความได้ว่าเป็น แมปปิง จากดัชนีไปยังค่า
- ในโดเมนที่เป็นอนันต์นับได้อย่างจำนวนธรรมชาติ สามารถแทนฟังก์ชันด้วยรายการที่ยาวอนันต์ได้
- ตัวอย่าง: (\mathbf{v}_i=i) สามารถแทน (f(x)=x) เมื่อ (x\in\mathbb{N}) ได้
- ในโดเมนที่เป็น อนันต์นับไม่ได้ อย่างจำนวนจริง ไม่สามารถกำหนดดัชนีจำนวนเต็มให้แต่ละสมาชิกได้ จึงไม่สามารถแทนด้วยรายการได้
- ณ จุดนี้ เวกเตอร์จะใกล้เคียงกับฟังก์ชันใดๆ
- functional analysis ว่าด้วยนิยามที่แม่นยำของการแทนฟังก์ชันเป็นเวกเตอร์มิติอนันต์
- เป้าหมายไม่ใช่การพิสูจน์ผลลัพธ์มิติอนันต์อย่างเคร่งครัด แต่เป็นการสร้างสัญชาตญาณผ่านอุปมาจากพีชคณิตเชิงเส้นมิติจำกัด
ปริภูมิฟังก์ชันกลายเป็นปริภูมิเวกเตอร์ได้อย่างไร
- ในปริภูมิของฟังก์ชันค่าจริง ฟิลด์สเกลาร์คือ (\mathbb{R}), เซตของเวกเตอร์คือฟังก์ชัน (\mathbb{R}\to\mathbb{R}), และเวกเตอร์ศูนย์คือฟังก์ชันที่คืนค่า 0 สำหรับทุกอินพุต
- การบวกฟังก์ชันคือการบวกค่าของสองฟังก์ชันที่อินพุตเดียวกัน
- ((f+g)[x]=f[x]+g[x])
- เป็นรูปแบบที่ขยายการบวกเวกเตอร์แบบรายองค์ประกอบไปสู่มุมมองของดัชนีฟังก์ชัน
- การคูณด้วยสเกลาร์คือการปรับสเกลผลลัพธ์ของฟังก์ชัน
- ((\alpha f)[x]=\alpha f[x])
- สอดคล้องกับการดำเนินการเวกเตอร์ที่สเกลค่าของแต่ละดัชนี
- ด้วยนิยามนี้ สามารถพิสูจน์สมบัติการสลับที่และการเปลี่ยนหมู่ของการบวก เวกเตอร์ศูนย์ อินเวอร์สการบวก เอกลักษณ์ของการคูณด้วยสเกลาร์ การเปลี่ยนหมู่ และการแจกแจงได้
- ฐานมาตรฐานของฟังก์ชันสามารถคิดเป็น ฟังก์ชันฐาน (\mathbf{e}_\alpha) ที่มีค่า 1 เฉพาะที่ดัชนี (\alpha) และเป็น 0 ที่อื่น
- บนจำนวนจริงทั้งหมดมีฟังก์ชันฐานจำนวนนับไม่ได้ ทำให้เขียนเป็นผลรวมง่ายๆ ได้ยาก แต่ให้สัญชาตญาณว่า ณ อินพุตเฉพาะ (x) จะเหลือเพียง (\mathbf{e}_x)
ตัวดำเนินการเชิงเส้นและการหาอนุพันธ์
- เมทริกซ์เข้ารหัส การแปลงเชิงเส้น ที่รักษาการผสมเชิงเส้นไว้ และสามารถตีความเวกเตอร์คอลัมน์ว่าเป็นการนิยามฐานใหม่ได้
- หากมองฟังก์ชันเป็นเวกเตอร์ ก็สามารถคิดถึงวัตถุมิติอนันต์ที่สอดคล้องกับเมทริกซ์ได้ และเขียนเป็น ตัวดำเนินการเชิงเส้น (\mathcal{L})
- ในทางปฏิบัติ ไม่สามารถเขียนตัวดำเนินการมิติอนันต์นับไม่ได้ทั้งหมดเป็นเมทริกซ์ได้
- ถึงอย่างนั้น โครงสร้างที่แต่ละ “คอลัมน์” แทนฟังก์ชันฐานใหม่ของปริภูมิฟังก์ชันก็ยังมีประโยชน์
- การหาอนุพันธ์มีสมบัติเชิงเส้น
- (\frac{\partial}{\partial x}(\alpha f[x]+\beta g[x])=\alpha\frac{\partial f}{\partial x}+\beta\frac{\partial g}{\partial x})
- ในปริภูมิพหุนาม (\mathcal{P}), (1,x,x^2,x^3,\dots) เป็นฐานอนันต์นับได้
- (p[x]=a+bx+cx^2+dx^3+\cdots) สามารถเขียนเป็นเวกเตอร์สัมประสิทธิ์ ([a,b,c,d,\dots]^T) ได้
- การหาอนุพันธ์แสดงได้เป็นเมทริกซ์อนันต์ที่เปลี่ยนเวกเตอร์สัมประสิทธิ์เป็น ([b,2c,3d,\dots]^T)
- ฟังก์ชันวิเคราะห์สามารถแสดงด้วย Taylor series รอบ 0 จึงเขียนเป็นการผสมเชิงเส้นของฐานพหุนามได้
- Taylor expansion สอดคล้องกับ การแปลงฐาน ไปยังฐานกำลัง
การทำให้เป็นแนวทแยงและ eigenfunction
- ในมิติจำกัด เมทริกซ์ (\mathbf{A}) สามารถทำให้เป็นแนวทแยงได้ หากมี eigenvector อิสระเชิงเส้นเพียงพอและ eigenvalue เป็นจำนวนจริง
- (\mathbf{A}=\mathbf{U\Lambda U^{-1}})
- เป็นกระบวนการเปลี่ยนไปยัง eigenbasis สเกลด้วย eigenvalue แล้วเปลี่ยนกลับมายังฐานมาตรฐาน
- ในปริภูมิฟังก์ชัน ก็สามารถคิดถึง eigenfunction ที่เป็นไปตาม (\mathcal{L}f=\psi f) สำหรับตัวดำเนินการเชิงเส้น (\mathcal{L}) ได้
- eigenfunction ของตัวดำเนินการอนุพันธ์มีรูป (p_0e^{\psi x})
- จากเงื่อนไขสัมประสิทธิ์ (p_i=\frac{\psi^i}{i!}p_0) จะปรากฏอนุกรมของฟังก์ชันเลขชี้กำลัง
- แต่ในฟังก์ชันวิเคราะห์ค่าจริงทั้งหมด ไม่สามารถทำให้การหาอนุพันธ์เป็นแนวทแยงด้วยฐานฟังก์ชันเลขชี้กำลังได้
- หากสมมติว่า (f[x]=x) แสดงเป็นการผสมเชิงเส้นของฟังก์ชันเลขชี้กำลังได้ จะเกิดข้อขัดแย้งเมื่อหาอนุพันธ์สองครั้ง
- ปัญหาคล้ายกันเกิดกับฟังก์ชันไม่คงที่ที่อนุพันธ์อันดับ (n) เป็น 0 หรือฟังก์ชันคาบอย่าง sine และ cosine
- หากขยายไปยังปริภูมิฟังก์ชันเชิงซ้อน จะสามารถทำให้ตัวดำเนินการจำนวนมากขึ้นเป็นแนวทแยงได้
- การหาอนุพันธ์สามารถทำให้เป็นแนวทแยงในปริภูมิฟังก์ชัน (\mathbb{C}\to\mathbb{C}) ด้วย Laplace transform
- Laplace transform มีประโยชน์ในการแก้สมการเชิงอนุพันธ์ แต่การแปลงผกผันไม่ง่าย จึงจะไม่ลงรายละเอียดต่อ
ผลคูณภายในของฟังก์ชันและทฤษฎีบทสเปกตรัม
- ผลคูณภายในแบบยุคลิดบ่งบอกว่าเวกเตอร์หนึ่งถูกวัดในทิศทางของอีกเวกเตอร์มากเพียงใด และผลคูณภายในกับตัวเองให้กำลังสองของความยาว
- ในปริภูมิฟังก์ชัน นิยามผลคูณภายในโดยแทนผลรวมจำกัดด้วยอินทิกรัล ซึ่งเป็นคู่สมนัยแบบต่อเนื่อง
- ฟังก์ชันค่าจริง: (\langle f,g\rangle=\int_a^b f[x]g[x],dx)
- ฟังก์ชันเชิงซ้อน: (\langle f,g\rangle=\int_a^b f[x]\overline{g[x]},dx)
- ไม่ใช่ทุกฟังก์ชันจะอินทิเกรตได้ ดังนั้นปริภูมิผลคูณภายในจึงจำกัดอยู่ที่ฟังก์ชันที่ อินทิเกรตได้กำลังสอง บนช่วง ([a,b])
- ([a,b]) อาจเป็น ([-\infty,\infty]) ก็ได้
- ผลคูณภายในของฟังก์ชันเชิงซ้อนต้องเป็นไปตามสมมาตรเชิงสังยุค ความเป็นเชิงเส้นในอาร์กิวเมนต์ตัวแรก และ positive-definiteness
- เพื่อจัดการ positive-definiteness อย่างเคร่งครัด จะใช้คลาสสมมูลของฟังก์ชันที่เป็น 0 “เกือบทุกที่”
- ทฤษฎีบทสเปกตรัมสามารถทำให้เป็นทั่วไปไปยังปริภูมิฟังก์ชันได้ และตัวดำเนินการ self-adjoint จะมี eigenvalue เป็นจำนวนจริงและ eigenbasis ออร์โธนอร์มัล
- ในมิติจำกัด เมทริกซ์สมมาตรมี eigenbasis ออร์โธนอร์มัล และทิศทางกลับกันก็จริงเช่นกัน
- ในมิติอนันต์ เงื่อนไขและการพิสูจน์อย่างเคร่งครัดซับซ้อนกว่า
การทำให้ Laplacian เป็นแนวทแยง
- สำหรับฟังก์ชันหนึ่งมิติ Laplacian คืออนุพันธ์อันดับสอง
- (\Delta f=\frac{\partial^2 f}{\partial x^2})
- เมื่อใช้การอินทิเกรตทีละส่วนสองครั้ง จะตรวจสอบได้ว่า Laplacian มีสมบัติใกล้เคียงกับ self-adjoint
- พจน์ขอบ ((f^\prime[x]g[x]-f[x]g^\prime[x])|_a^b) ต้องเป็น 0
- เพื่อสิ่งนี้ จึงจำกัดโดเมนไว้ที่ฟังก์ชันคาบที่มีคาบ (b-a)
- เพื่อความเรียบง่าย ให้ช่วงเป็น ([0,1])
- eigenfunction แบบคาบของ Laplacian คือ (e^{2\pi \xi i x}) โดย (\xi) เป็นจำนวนเต็ม
- ตามสูตรของ Euler มุมมอง sine·cosine และมุมมองฟังก์ชันเลขชี้กำลังเชิงซ้อนสอดคล้องกัน
- eigenvalue คือ (-(2\pi\xi)^2)
- eigenfunction เหล่านี้ตั้งฉากกันและมี norm เป็น 1 บน ([0,1])
- เมื่อ (\xi_1-\xi_2) เป็นจำนวนเต็มที่ไม่ใช่ 0 ผลคูณภายในจะเป็น 0
- ผลคูณภายในของฟังก์ชันเดียวกันเป็น 1
- การแปลงไปยัง eigenbasis ออร์โธนอร์มัลของ Laplacian เท่ากับการคำนวณสัมประสิทธิ์ Fourier
- (\hat{f}[\xi]=\int_0^1 f[x]e^{-2\pi\xi i x},dx)
- การแปลงผกผันคือ (f[x]=\sum_{\xi=-\infty}^{\infty}\hat{f}[\xi]e^{2\pi\xi i x})
- Laplacian โดยรวมแมปฟังก์ชันค่าจริงไปเป็นฟังก์ชันค่าจริง แต่การแทนค่าระหว่างทางอาจมีค่าเชิงซ้อนได้
Fourier series และการประยุกต์ใช้ในการประมวลผลสัญญาณ
- Fourier transform คือ การแปลงฐาน ไปยัง eigenbasis ของ Laplacian
- (\hat{f}[\xi]) วัดว่าฟังก์ชัน (f) ถูกแทนด้วยคลื่นของความถี่จำนวนเต็ม (\xi) มากเพียงใด
- การแทนค่านี้ย้ายฟังก์ชันไปยัง โดเมนความถี่
- เนื่องจากเป็นฐานออร์โธนอร์มัล Fourier series จึงสามารถแปลงผกผันได้ง่าย โดยนำสัมประสิทธิ์กลับมารวมกับคลื่น
- หากทิ้งสัมประสิทธิ์ Fourier ที่สูงกว่า threshold หนึ่ง ก็สามารถสร้างการประกอบฟังก์ชันที่เรียบขึ้นได้
- เทคนิคนี้เรียกว่า ตัวกรองผ่านต่ำ (low-pass filter)
- เนื่องจากสามารถเก็บสัมประสิทธิ์ Fourier เพียงไม่กี่ตัวเพื่อประกอบฟังก์ชันโดยประมาณได้ จึงมีประโยชน์เชิงคำนวณสำหรับการบีบอัด
การบีบอัดภาพและฟังก์ชันฮาร์มอนิกทรงกลม
- ทุกที่ที่สามารถนิยาม Laplacian ได้ ก็สามารถหา Fourier transform ที่สอดคล้องกันได้
- ในสองมิติ Laplacian คือผลรวมของอนุพันธ์ย่อยอันดับสอง
- (\Delta f[x,y]=\frac{\partial^2 f}{\partial x^2}+\frac{\partial^2 f}{\partial y^2})
- บน ([0,1]\times[0,1]) eigenfunction มีรูป (e^{2\pi i(nx+my)}) โดย (n,m) เป็นจำนวนเต็ม
- เช่นเดียวกับที่แยกฟังก์ชัน 1D ออกเป็นชุดคลื่น 1D ภาพ 2D ก็ถูกแยกออกเป็นชุดคลื่น 2D
- รูปแบบหนึ่งของ 2D Fourier transform เป็นหัวใจของ อัลกอริทึมบีบอัดภาพ จำนวนมาก รวมถึง JPEG
- บนทรงกลมหน่วยก็สามารถนิยาม Laplacian ได้ และ eigenbasis ออร์โธนอร์มัลของมันคือ spherical harmonics
- (Y_\ell^m[\theta,\phi]=N_\ell^mP_\ell^m[\cos[\theta]]e^{im\phi})
- (\ell\ge0), (m\in[-\ell,\ell])
- ใน game engine มักใช้บีบอัด diffuse environment map และ global illumination probe
- spherical harmonics ยังมองได้เป็นออร์บิทัลอิเล็กตรอน และกลศาสตร์ควอนตัมก็จัดการ eigenfunction ของตัวดำเนินการเชิงเส้นเป็นหลัก
การประมวลผลเรขาคณิตและหัวข้อสำรวจเพิ่มเติม
- วิธีแทนฟังก์ชันเป็นเวกเตอร์ไม่ได้เป็นเพียงพื้นฐานของการบีบอัดภาพ แต่ยังเป็นพื้นฐานของ อัลกอริทึมประมวลผลเรขาคณิต สมัยใหม่ด้วย
- discrete differential geometry ใช้มุมมองนี้ในการสร้างอัลกอริทึม 3D geometry processing
- ในคอมพิวเตอร์กราฟิก ฟังก์ชันบนเมชสามารถแทน texture, unwrapping, displacement และพารามิเตอร์ simulation ได้
- สามารถเข้ารหัสฟังก์ชันเป็นเวกเตอร์ได้โดยเชื่อมค่ากับ vertex แต่ละจุดของเมช
- mesh Laplacian เป็นเมทริกซ์มิติจำกัด จึงสามารถหา eigenfunction ได้ด้วยพีชคณิตเชิงเส้นเชิงตัวเลข
- มันทำงานเหมือนฟังก์ชันที่ generalize sine·cosine ของโดเมนต่อเนื่องไปยังโดเมนใหม่
- eigenbasis ของเมชมีประโยชน์ต่อการแปลงและการบีบอัดฟังก์ชันบนเมช
- หากตีความตำแหน่ง vertex เป็นฟังก์ชัน ก็สามารถทำให้ geometry เองเรียบขึ้นหรือคมขึ้นได้
- หัวข้อสำหรับสำรวจเพิ่มเติม ได้แก่ geometry, simulation, light transport, machine learning และ splines
- Geometry: Distances, Parallel Transport, Flattening, Non-manifold Meshes, Polygonal Meshes
- Simulation: Finite Element Method, Monte Carlo PDEs, Minimal Surfaces, Fluid Cohomology
- Light Transport: Radiosity, Operator Formulation, Low-Rank Approximation, Inverse Rendering
- Machine Learning: DiffusionNet, MeshCNN, Kinematics, Fourier Features, Inverse Geometry
- Splines: C2 Interpolation, Quadratic Approximation, Simplification
1 ความคิดเห็น
ความเห็นจาก Hacker News
บทความนี้ดีจนอยากกดโหวตขึ้นให้สองครั้ง เป็นบทนำเกี่ยวกับ แนวคิดพื้นฐานของการวิเคราะห์เชิงฟังก์ชัน ที่ดีที่สุดเท่าที่เคยเห็นมา
ถ้าต้องการภาพรวมที่ลงลึกทางคณิตศาสตร์มากขึ้น ก็มี https://arxiv.org/abs/1904.02539
การประยุกต์ใช้ที่ยอดเยี่ยมซึ่งเว็บไซต์ไม่ได้กล่าวถึงคือ ตัวดำเนินการ Koopman ในทฤษฎีการควบคุม ระบบจริงอย่างโดรนอัตโนมัติ รถยนต์ หรือแขนกล ส่วนใหญ่อธิบายด้วยพลวัตไม่เชิงเส้นที่จัดการได้ยาก แต่ตัวดำเนินการ Koopman ให้การประมาณเชิงเส้นที่มีประโยชน์ในเชิงทั่วทั้งระบบสำหรับระบบไม่เชิงเส้น
กล่าวคือ ทำให้สามารถจัดการระบบไม่เชิงเส้นเสมือนเป็นระบบเชิงเส้นได้ด้วยความแม่นยำค่อนข้างสูง จึงทำให้การควบคุมและการประมาณค่าในเชิงคำนวณง่ายขึ้นมาก การทำให้เป็นเชิงเส้นแบบนี้ยังเรียนรู้ได้จากข้อมูลด้วย
แหล่งข้อมูลทฤษฎี Koopman ของ Steve Brunton ดีมาก: https://youtube.com/playlist?list=PLMrJAkhIeNNSVXUvppZTYNHKQ..., https://arxiv.org/abs/2102.12086 และยังมีการประยุกต์อย่างการควบคุมซอฟต์โรบอตด้วย https://arxiv.org/abs/1902.02827
ตอนนั้นเบื่อหน่ายกับการหาทุนวิจัย และพอได้แต่นั่งอ่านหนังสือแข็ง ๆ คนเดียวอีก ก็หมดใจกับแวดวงวิชาการแล้วออกมา
ผู้สอนดี ๆ บน YouTube กำลังสร้างโอกาสมหาศาลในอนาคต และสุดท้ายทุกคนจะได้รับประโยชน์จากสิ่งนั้น ทฤษฎีการควบคุม แสดงให้เห็นจุดเชื่อมโยงระหว่างหลายสาขา จึงเป็นความเพลิดเพลินอย่างมากสำหรับคนที่ชอบมองเห็นแบบแผนและโครงสร้างได้ทุกที่ จำได้ว่า Steve เพิ่งอัปวิดีโอเกี่ยวกับทฤษฎีการควบคุมสำหรับแบบจำลองทางสังคมด้วย
การตระหนักว่าฟังก์ชันสามารถถูกจัดการเป็นสมาชิกของ ปริภูมิเวกเตอร์นามธรรมมิติอนันต์ ได้นั้น เป็นจุดเปลี่ยนในประวัติศาสตร์คณิตศาสตร์ และนำไปสู่การเกิดขึ้นของสาขาย่อยที่เรียกว่าการวิเคราะห์เชิงฟังก์ชัน
ความหมายของการเปลี่ยนมุมมองนี้อยู่ที่ว่า มันทำให้เรานำสัญชาตญาณเชิงเรขาคณิตที่ได้จากการศึกษาปริภูมิมิติจำกัด เช่น ปริภูมิยูคลิด 3 มิติ ไปใช้กับปัญหายากเกี่ยวกับฟังก์ชัน เช่น การมีอยู่ของคำตอบของสมการเชิงอนุพันธ์บางประเภทได้
ประวัติของการเปลี่ยนแปลงนี้ย้อนกลับไปถึงปลายศตวรรษที่ 19 และต้นศตวรรษที่ 20 และน่าสนใจมาก ในเวลานั้น งานวางรากฐานเชิงสัจพจน์ของคณิตศาสตร์กำลังสร้างกระแสของการจัดระบบ โดยจับโครงสร้างของวัตถุทางคณิตศาสตร์ไว้เป็นรายการสัจพจน์ที่กระชับ
ตัวอย่างเช่น แนวคิดปริภูมิเวกเตอร์นามธรรมก็ถือกำเนิดขึ้นในลักษณะนี้ และครอบคลุมไม่เพียงปริภูมิยูคลิด แต่รวมถึงปริภูมิของฟังก์ชันมิติอนันต์ด้วย
เอกสารที่แสดงให้เห็นการเปลี่ยนมุมมองนี้แล้ว แม้จะยังเป็นรูปแบบแรกเริ่ม คือบันทึกความทรงจำของ Vito Volterra ปี 1889 https://projecteuclid.org/journals/acta-mathematica/volume-1...
วิทยานิพนธ์ปริญญาเอกปี 1906 ของ Maurice Fréchet https://zenodo.org/record/1428464/files/article.pdf ทำให้พาราไดม์ใหม่นี้ตกผลึกและนำเสนอในรูปแบบสมัยใหม่ จึงอาจถือเป็นงานที่มีอิทธิพลที่สุด ซึ่งกลายเป็นเอกสารอ้างอิงสำคัญในช่วงครึ่งแรกของศตวรรษที่ 20
แน่นอนว่านี่เป็นเพียงสองงานท่ามกลางผลงานจำนวนมากในเวลานั้น และหากดูพัฒนาการภายหลัง หนังสือปี 1932 ของ Stefan Banach ก็เป็นสิ่งที่ขาดไม่ได้ http://kielich.amu.edu.pl/Stefan_Banach/pdf/teoria-operacji-...
ดังนั้นผมมองว่าแก่นสำคัญคือปริภูมิเวกเตอร์เหล่านี้แท้จริงแล้วเป็น เชิงทอพอโลยี
ผมชอบมุมมองนี้มากมาตลอด กำลังอ่านเลกเชอร์เรื่อง สมการเชิงอนุพันธ์และสมการเชิงอินทิกรัล-อนุพันธ์ ที่ Vito Volterra บรรยายที่ Madrid อย่างเพลิดเพลินอยู่ และเขาก็มีส่วนในการสร้างการวิเคราะห์เชิงฟังก์ชันไปพร้อมกันด้วย
ในที่นี้ ฟังก์ชันนัลเป็นแนวคิดที่สอดคล้องกับเวกเตอร์คู่ Volterra ใช้วิธีอุปมาในการย้ายจากโครงสร้างที่มีตัวแปรจำกัด ไปสู่ตัวแปรอนันต์ และแม้กระทั่งตัวแปรที่นับไม่ได้ อยู่ตลอด
ถึงขั้นมีตอนที่เขาเขินตัวเองว่ากำลังพูดไอเดียเดิมซ้ำมากเกินไปหรือเปล่า ถ้าเป็นคนสอน ก็น่าลองเปิดดูด้วยกัน
https://searchworks.stanford.edu/view/526111
ผมไม่เคยเห็นการใช้ ฟังก์ชันดัชนี แบบนี้เป็นฐานทรานส์ไฟไนต์ของปริภูมิเวกเตอร์มาก่อน มันดูไม่เหมือนจุดลิมิตของลำดับจำกัดของฟังก์ชันฐาน แต่ดูเหมือนผลรวมทรานส์ไฟไนต์ประหลาด ๆ ที่มีพจน์ส่วนใหญ่เป็น 0 มากกว่า
ดูไม่น่าเป็นไปได้ด้วยว่าทุกฟังก์ชันจะทำ Fourier transform ได้ น่าจะโต้แย้งได้ง่ายด้วยวิธี diagonalization ว่ามันไม่ให้ผลลัพธ์ที่มีประโยชน์
แม้แต่ Hilbert space โดยปกติก็ยังมักถูกทำดัชนีด้วยจำนวนเต็มเท่านั้น ฐานแบบนั้นไม่ได้ให้เงื่อนไขเรื่องความต่อเนื่องหรือการหาอนุพันธ์ได้เลย
functional analysis ที่ผมเคยเห็นทั้งหมดใช้เงื่อนไขความต่อเนื่องบางอย่างและฐานนับได้ นอกเหนือจากนั้น มันก็เป็นมุมมองต่อฟังก์ชันที่มีประโยชน์มาก และค่อนข้างเป็นจุดเริ่มต้นสำหรับทำความเข้าใจรูปแบบของกลศาสตร์ควอนตัม
นี่เป็นปัญหาที่พบได้บ่อยแม้ในกลศาสตร์ควอนตัมที่สอนระดับเบื้องต้น อย่างไรก็ตาม บทความนี้ก็ดูเหมือนจะเน้นสร้างแรงจูงใจให้กับแนวคิดของ functional analysis เช่นเดียวกับคอร์สกลศาสตร์ควอนตัมเบื้องต้น และถึงจะไม่เคร่งครัด ก็ยังมีประโยชน์ในการอธิบาย
ทุกฟังก์ชันในปริภูมิย่อยนี้มี Fourier transform
บทความนี้คงจงใจเมินคำถามที่โดยปกติค่อนข้างยากใน functional analysis คือ “จะใช้ปริภูมิเวกเตอร์แบบไหน” ด้วยเหตุผลที่ดีบางอย่าง
ปริภูมิเวกเตอร์ที่นิยามฟังก์ชันแบบทีละจุดเหมือนที่นี่ แทบจะเป็นตัวเลือกที่ไร้ประโยชน์ที่สุดเสมอ แต่ถ้าเป้าหมายคือการสอนภาพรวมของหัวข้อ ก็ถือว่ามีคุณค่าไม่น้อย
ส่วนประโยคที่ว่า “ไม่น่าเป็นไปได้ที่ทุกฟังก์ชันจะทำ Fourier transform ได้” นั้น ในปริภูมิแบบนั้น แม้แต่แนวคิดเรื่องระยะทางที่มีประโยชน์ก็ยังหาได้ยาก
เรื่องนี้แตะกับนิยามจริง ๆ ของฟังก์ชัน ฟังก์ชันคือ การส่งระหว่างเซต ที่ทำให้ทุกองค์ประกอบของเซตแรกไปยังองค์ประกอบหนึ่งเดียวพอดีในเซตที่สอง
ปัญหาของการใช้เวกเตอร์คือ เวกเตอร์ไม่ได้ทั่วไปเท่าเซต จึงมีฟังก์ชันที่แสดงด้วยเวกเตอร์ไม่ได้
ตัวอย่างเช่น เวกเตอร์ใช้จัดการค่าที่ไม่ได้นิยามหรือองค์ประกอบที่ไม่ใช่ตัวเลขไม่ได้
ตามนิยามแล้ว ค่าทุกค่าของเซตต้นทางต้องถูกจับคู่กับอะไรบางอย่างในเซตปลายทาง ดังนั้นจึงไม่มีค่าที่ไม่ได้นิยามในความหมายนั้น
เหตุผลที่ไม่สามารถมอง function space เป็น vector space ได้เสมอ คืออาจไม่มีแนวคิดเรื่องการบวกของฟังก์ชันหรือการคูณด้วยสเกลาร์ และแม้จะมี ก็อาจไม่เข้ากันดีกับโครงสร้างการบวกที่ฟังก์ชันเหล่านั้นต้องเป็นไปตาม
เรื่องนี้จริงก็ต่อเมื่อโคโดเมนมีโครงสร้างที่จำเป็นต่อการดำเนินการแบบเวกเตอร์เท่านั้น ฟังก์ชันทั่วไปกว่าเวกเตอร์
ดูยอดเยี่ยมจริง ๆ และอยากกลับมาอ่านให้ละเอียดขึ้นภายหลัง หลักสูตรปริญญาฟิสิกส์ทั่วไปก็น่าจะครอบคลุมเนื้อหาส่วนใหญ่แบบนี้
ถึงอย่างนั้นก็เหมือนหนังหรือหนังสือดี ๆ ตัวแนวคิดเองน่าสนใจจนควรค่าแก่การกลับมาดูมากกว่าหนึ่งครั้ง
ในมุมของโปรแกรมเมอร์ เทคนิคบางอย่างพวกนี้ดูค่อนข้างเหมือน การแฮ็ก ตอนแรกเริ่มจากดัชนีจำนวนเต็มที่สมเหตุสมผลมาก ๆ แล้วก็รู้ตัวว่าสามารถทำให้ดัชนีทั่วไปขึ้นได้ จากนั้นก็ยัดข้อมูลลงไปในดัชนีมากกว่าที่ตั้งใจไว้เดิมมาก
สิ่งที่น่าทึ่งจริง ๆ คือไอเดียที่ดูโง่และเหมือนถูกใช้เกินขอบเขตแบบนี้ สุดท้ายมักนำไปสู่อะไรบางอย่างที่ลึกซึ้งและมีประโยชน์เสมอ เหมือนเวทมนตร์นิด ๆ
อยากแนะนำไลบรารี Funsor ที่ผมทำร่วมกับ Eli Bingham เพื่อใช้ในภาษา probabilistic programming อย่าง Pyro และ NumPyro
เรานำมุมมอง “ฟังก์ชันคือเทนเซอร์” มาใช้ และพยายามสร้างไลบรารีสำหรับฟังก์ชันแบบ NumPy ซึ่งส่วนใหญ่มีเป้าหมายเป็นฟังก์ชัน log density ของการแจกแจงความน่าจะเป็น
บทความวิจัย: "Functional Tensors for Probabilistic Programming" (2019) https://arxiv.org/abs/1910.10775
โค้ด: https://github.com/pyro-ppl/funsor
ผมคิดว่าบทความนี้ให้สัญชาตญาณที่ไม่ดี เพราะทิศทางกลับกัน สิ่งที่ทำให้ฟังก์ชันประกอบกันเป็นปริภูมิเวกเตอร์ได้ไม่ใช่อินพุต แต่คือ เอาต์พุต
ฟังก์ชันจากเซต X ใด ๆ ไปยังฟิลด์ F สามารถประกอบกันเป็นปริภูมิเวกเตอร์ได้ แม้ X จะไม่มีลำดับก็ตาม
เป็นมุมมองที่น่าสนใจมากเท่าที่ผมตามทัน แต่น่าเสียดายที่ตามได้ไม่มากนัก
ผมสงสัยว่าตรรกะแบบเป็นทางการพวกนี้ช่วยในการอนุมานฟังก์ชันที่อธิบายเวกเตอร์ได้หรือไม่
ในการวิเคราะห์บิ๊กดาต้า เช่น การฝึก neural network ความไม่มีประสิทธิภาพและคอขวดที่ใหญ่ที่สุดดูเหมือนยังคงสรุปลงที่วิธีค้นหาฟังก์ชันที่ประมาณเอาต์พุตคล้ายเวกเตอร์ที่คาดหวัง
ไม่ว่าวิธีนั้นจะเป็น symbolic regression หรือเลเยอร์การแปลงหลายชั้นก็ตาม ถ้าสามารถคำนวณกับ เวกเตอร์ในฐานะฟังก์ชัน ได้โดยไม่ต้องดึงหรือบีบอัดความสัมพันธ์ระหว่างอินพุตกับเอาต์พุตออกมา somehow ก็คงจะเหมือน “เวทมนตร์”
โดยพื้นฐานแล้วนี่คือแนวคิดหลักของการบีบอัด MP3 และ JPEG แน่นอนว่าเป็นการแลกพื้นที่กับเวลา ดังนั้นถ้าต้องการได้ค่าประมาณของเวกเตอร์เดิม ก่อนอื่นต้องใช้ inverse Fourier transform
บทความนี้พูดถึงปริภูมิเวกเตอร์เชิงนามธรรม สมบัติของมัน เช่น การบวกเวกเตอร์และการคูณด้วยสเกลาร์ และโดยเฉพาะชี้ว่าฟังก์ชันเป็นไปตามนิยามนั้น จึงสร้างปริภูมิเวกเตอร์ของฟังก์ชัน หรือก็คือ function space
ตัวอย่างเช่น ถ้ามีฟังก์ชันสองตัว f, g และสเกลาร์ b ก็จัดการได้ดังนี้
f + g = g + f
b(f + g) = bf + bg
และยังมี (-f) อยู่ ทำให้ f + (-f) = 0 โดยที่ 0 คือฟังก์ชันศูนย์ และ function space ก็ต้องมีฟังก์ชันศูนย์นี้อยู่ด้วย