מה הבינה מבינה: הכל או שום דבר? [עושים טכנולוגיה]

האם ניתן, האם צריך ללמד את מערכות בינה מלאכותית את מה המשמעות של מה שהן כותבות? על פניו נראה שהן יודעות על מה הן מדברות. אחרי הכל, אני קורא את התשובות של ChatGPT והבוט הזה מתנסח בצורה יפה וכותב משפטים נהדרים. סביר להניח שאם הוא כותב כאלו משפטים הוא מבין את המשפטים, לא? אז זהו, שכנראה שלא. אוקיי, אז מה, האם זה חשוב?<br />מצד אחד יש קבוצה גדולה של חוקרים שטוענים שללא פריצת דרך טכנולוגית המערכות האלו לעולם לא יבינו את המשמעות של מה שהן כותבות מה שאומר שלא נוכל לסמוך עליהן. איך אתה יכול לסמוך על מערכת שמייצרת טקסט שהיא עצמה לא מבינה את המשמעות שלו?<br />אבל בצד השני יש קבוצה אחרת של חוקרים שטוענת שכדי להפיק טקסט טוב, הגיוני ובעל משמעות, כדי לספק שירות מועיל ויעיל, כמו נניח השירות של ChatGPT, המערכות האלו לא צריכות להבין את המשמעות של המלים כמו שאנחנו מבינים אותן ושיכול להיות שהמודלים האלו גילו משהו שאנחנו עוד לא גילינו בנוגע לאיך שפה עובדת, מהי הבנה ואיך נוצרת משמעות.<br />כדי להסביר מדוע הסוגיה הזו כל כך מרתקת, דרמטית וחשובה נשתמש בסינים, בתמנונים וגם בכמה תוכים אקראיים.<br /><br />קישורים:<br />מאמר "תוכים הסתברותיים"<br /><a href="https://dl.acm.org/doi/pdf/10.1145/3442188.3445922" target="_blank" rel="noreferrer noopener">https://dl.acm.org/doi/pdf/10.1145/3442188.3445922</a><br /><br />אתה לא תוכי וצ'אטבוטים אינם אנושיים<br /><a href="https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html" target="_blank" rel="noreferrer noopener">https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html</a><br /><br />עזרא קליין מראיין את גארי מרקוס<br /><a href="https://www.nytimes.com/2023/01/06/podcasts/transcript-ezra-klein-interviews-gary-marcus.html" target="_blank" rel="noreferrer noopener">https://www.nytimes.com/2023/01/06/podcasts/transcript-ezra-klein-interviews-gary-marcus.html</a><br /><br />המקרה המסקרן של אינטליגנציית השכל הישר<br /><a href="https://www.amacad.org/publication/curious-case-commonsense-intelligence" target="_blank" rel="noreferrer noopener">https://www.amacad.org/publication/curious-case-commonsense-intelligence</a><br /