459 Bumpers 81

מדע וטכנולוגיה | רן תבורי ואורי להב | 218 פרקים
רברס עם פלטפורמה

[קישור לקובץ mp3]פרק מספר 459 של רברס עם פלטפורמה - באמפרס 81, הוקלט ב-16 במאי 2023.באמפרס הוא פודקאסט חודשי  - או לכאורה-חודשי, קצת זייפנו בזמן האחרון [כולל 1 באפריל! שנתיים רצוף!] - שבו רן, אלון ודותן מקליטים קצרצרים על נושאים מעניינים מהחודש האחרון - במקרה הזה כנראה חצי-השנה האחרונה . . . - שתפסו את עינינו: ספריות חדשות, בלוג-פוסט מעניינים, טכנולוגיות חדשות שצצו וכו’.כיוון שבאמת לא יצא לנו להקליט במשך כמה חודשים, יכול להיות שתראו פה דברים שהם אולי לא הכי חדשים - לפחות לא כולם - אבל עדיין הם מעניינים לטעמנו.אז זהו, יאללה - בואו נרוץ על זה.0:58 רן ומלחמתו ב-AI - עצומות (רן) אז דבר ראשון, הייתי רוצה להרים איזה שהוא Shoutout לחברי ערן קרקובסקי ולחבריו שפתחו בפודקאסט חדש - אז פודקאסט חדש בשכונה - ולפודקאסט קוראים מחלידים ביחד. . . .  וכמו שניחשת, זהו פודקאסט על Rust - בעצם, ערן וחבריו לומדים Rust ומדברים על זה תוך כדי.תוך כדי זה שהם לומדים ומחליפים חוויות - ועושים את זה באונליין אז יש את הלינק לפודקאסט עצמו - ואולי ביום מן הימים גם יביאו מומחים מהפודקאסט הזה, בלי לנקוב בשמות, ויזמינו אותם גם להתארח אצלם . . . .אז תודה ערן וישר כוח ותמשיכו ככה.הנושא הבא והממש ממש גדול שרציתי לדבר עליו - אי אפשר להתחמק מ . . . נקרא לזה “מהפכת ה-AI” או “באזז ה-AI”  או איך שלא תקראו לסיפור הזה, אבל יש כל כך הרבה תחומים שבהם AI, או ספציפית Generative AI, נכנסים לחיים שלנו.אם זה GPT למיניו השונים, אם זה Midjourney - וגם יהיו אייטמים בהמשך על הנושאים האלהאבל כמעט ולא קיים תחום היום וכמעט לא קיימת שיחת סלון או שיחת קולר שבה לא מדברים על הנושא הזה של “ה-AI”.אחד הנושאים לדעתי המעניינים והחשובים בתחום הזה זה התחום של Safety, של AI Safety, או בקיצור “מה אנחנו יכולים לעשות כדי שהרובוטים ישאירו אותנו בחיים גם בעתיד?”יש שקוראים לזה “סינגולריות”, יש קוראים לזה “Safety Regulation” וכו’ - הנושא הזה הוא מורכב . . .(אלון) ארנולד שוורצנגר . . . (רן) . . . אולי זה כבר קרה ואנחנו רק עוד לא יודעים את זה  . . . לחובבי הז’אנר.הנושא הזה מורכב ואנחנו לא נוכל ממש להיכנס לעומק שלו, אבל כן הייתי רוצה להביא פה כמה כמה נגיעות מעניינות.אז אחד הדברים הבולטים שבעצם קרו בתחום הזה זה למעשה איזשהו Open Letter, איזשהו מכתב פתוח, שמי שיזם אותו - בעצם יזמו אותו שניים: אחד זה מי שנמצא מאחורי המכון שנקרא Future of Life, זה חוקר ב-MIT, פיזיקאי, חוקר רובוטיקה [Max Tegmark]ושני ששכחתי את שמו, מ-Berkeley [מניח שהכוונה ל - Stuart Russell]שני אנשי האקדמיה מאוד מאוד מוכרים בתחום, שבעצם באים ואומרים “חברים, אנחנו עוד לא בסינגולריות, אוקיי? והמודל - GPT-4 או לא חשוב איזה מודל Generative-י שהוא כרגע Top of the Line שקיים היום - הוא לא יחליף אותנו. את זה אנחנו יודעים, אוקיי -  אף אחד לא משלה את עצמו שזה יקרה עכשיו”.אבל - אנחנו כן רואים איזשהו צעד, איזשהו וקטור, לכך שבאיזשהו שלב אנחנו עלולים לאבד שליטהאו לפחות אנחנו, כאנושות, יכולים לאבד את המלחמה הזאת -  אולי לבן-אנוש אחר שיש לו AI, זאת אומרת  לא בהכרח ל-AI אבל ייתכן  שלבן- אנוש אחר שכן לוקח ומפעיל לטובתו כוחות AI - ואנחנו נצטער על זה . . . ואם לא נעשה עכשיו רגולציה ולא נטפל עכשיו ב- AI Safety, יכול להיות שאחר כך יהיה מאוחר מדיולמעשה, המכתב הזה קורא לעצירה של משהו כמו חצי-שנה בפיתוח של מודלים חדשיםזאת אומרת, הוא לא אומר לבוא ולעצור ולא להשתמש במודלים שכבר פותחו, דוגמת GPT-4.הוא כן קורא לעצירה של חצי-שנה לטובת מחקר והשקעה משמעותית של Safety בתחום הזה של AIעכשיו, כמו שאמרתי מי שיזם את המכתב הזה ובכלל את כל התנועה הזאת אלו אנשים שהם לא קוטלי-קניםזה אנשים שנמצאים בתחום זמן רבגם שמעתי פודקסט מאוד ארוך של שיחה עם אחד מהם - מקס טגמרק [Max Tegmark], אם אני לא טועה וחתומים על המכתב הזה לא מעט אנשים - ביניהם מי שנחשב ל”הסנדק של AI”, שלמעשה עבד בגוגל עד לא מזמן - ג'ף הינטון [Geoffrey E. Hinton] - הוא זה שאחראי להרבה מאוד מהפיתוחים של AI, של רשתות נוירונים . . .  זאת אומרת, במעבדה שלו למעשה פיתחו את המודל הראשון של AlexNet, שאחראי למהפכת ה-Computer Vision.הוא לא עשה את זה לבד, כמובן - יש יחד איתו את Yoshua Bengio ויש את  . . . שכחתי . . . . מי שמנהל את המחקר בפייסבוק . . .  אבל כמובן לא עשה את כל הסיפור הזה לבד, אבל הוא ללא ספק אחד מהאנשים הבולטים בתחום - והוא בעצ…

לכל הפרקים של פודקאסט רברס עם פלטפורמה >>

פרסומת
459 Bumpers 8130/05/2023 |
[קישור לקובץ mp3]פרק מספר 459 של רברס עם פלטפורמה - באמפרס 81, הוקלט ב-16 במאי 2023.באמפרס הוא פודקאסט חודשי  - או לכאורה-חודשי, קצת זייפנו בזמן האחרון [כולל 1 באפריל! שנתיים רצוף!] - שבו רן, אלון ודותן מקליטים קצרצרים על נושאים מעניינים מהחודש האחרון - במקרה הזה כנראה חצי-השנה האחרונה . . . - שתפסו את עינינו: ספריות חדשות, בלוג-פוסט מעניינים, טכנולוגיות חדשות שצצו וכו’.כיוון שבאמת לא יצא לנו להקליט במשך כמה חודשים, יכול להיות שתראו פה דברים שהם אולי לא הכי חדשים - לפחות לא כולם - אבל עדיין הם מעניינים לטעמנו.אז זהו, יאללה - בואו נרוץ על זה.0:58 רן ומלחמתו ב-AI - עצומות (רן) אז דבר ראשון, הייתי רוצה להרים איזה שהוא Shoutout לחברי ערן קרקובסקי ולחבריו שפתחו בפודקאסט חדש - אז פודקאסט חדש בשכונה - ולפודקאסט קוראים מחלידים ביחד. . . .  וכמו שניחשת, זהו פודקאסט על Rust - בעצם, ערן וחבריו לומדים Rust ומדברים על זה תוך כדי.תוך כדי זה שהם לומדים ומחליפים חוויות - ועושים את זה באונליין אז יש את הלינק לפודקאסט עצמו - ואולי ביום מן הימים גם יביאו מומחים מהפודקאסט הזה, בלי לנקוב בשמות, ויזמינו אותם גם להתארח אצלם . . . .אז תודה ערן וישר כוח ותמשיכו ככה.הנושא הבא והממש ממש גדול שרציתי לדבר עליו - אי אפשר להתחמק מ . . . נקרא לזה “מהפכת ה-AI” או “באזז ה-AI”  או איך שלא תקראו לסיפור הזה, אבל יש כל כך הרבה תחומים שבהם AI, או ספציפית Generative AI, נכנסים לחיים שלנו.אם זה GPT למיניו השונים, אם זה Midjourney - וגם יהיו אייטמים בהמשך על הנושאים האלהאבל כמעט ולא קיים תחום היום וכמעט לא קיימת שיחת סלון או שיחת קולר שבה לא מדברים על הנושא הזה של “ה-AI”.אחד הנושאים לדעתי המעניינים והחשובים בתחום הזה זה התחום של Safety, של AI Safety, או בקיצור “מה אנחנו יכולים לעשות כדי שהרובוטים ישאירו אותנו בחיים גם בעתיד?”יש שקוראים לזה “סינגולריות”, יש קוראים לזה “Safety Regulation” וכו’ - הנושא הזה הוא מורכב . . .(אלון) ארנולד שוורצנגר . . . (רן) . . . אולי זה כבר קרה ואנחנו רק עוד לא יודעים את זה  . . . לחובבי הז’אנר.הנושא הזה מורכב ואנחנו לא נוכל ממש להיכנס לעומק שלו, אבל כן הייתי רוצה להביא פה כמה כמה נגיעות מעניינות.אז אחד הדברים הבולטים שבעצם קרו בתחום הזה זה למעשה איזשהו Open Letter, איזשהו מכתב פתוח, שמי שיזם אותו - בעצם יזמו אותו שניים: אחד זה מי שנמצא מאחורי המכון שנקרא Future of Life, זה חוקר ב-MIT, פיזיקאי, חוקר רובוטיקה [Max Tegmark]ושני ששכחתי את שמו, מ-Berkeley [מניח שהכוונה ל - Stuart Russell]שני אנשי האקדמיה מאוד מאוד מוכרים בתחום, שבעצם באים ואומרים “חברים, אנחנו עוד לא בסינגולריות, אוקיי? והמודל - GPT-4 או לא חשוב איזה מודל Generative-י שהוא כרגע Top of the Line שקיים היום - הוא לא יחליף אותנו. את זה אנחנו יודעים, אוקיי -  אף אחד לא משלה את עצמו שזה יקרה עכשיו”.אבל - אנחנו כן רואים איזשהו צעד, איזשהו וקטור, לכך שבאיזשהו שלב אנחנו עלולים לאבד שליטהאו לפחות אנחנו, כאנושות, יכולים לאבד את המלחמה הזאת -  אולי לבן-אנוש אחר שיש לו AI, זאת אומרת  לא בהכרח ל-AI אבל ייתכן  שלבן- אנוש אחר שכן לוקח ומפעיל לטובתו כוחות AI - ואנחנו נצטער על זה . . . ואם לא נעשה עכשיו רגולציה ולא נטפל עכשיו ב- AI Safety, יכול להיות שאחר כך יהיה מאוחר מדיולמעשה, המכתב הזה קורא לעצירה של משהו כמו חצי-שנה בפיתוח של מודלים חדשיםזאת אומרת, הוא לא אומר לבוא ולעצור ולא להשתמש במודלים שכבר פותחו, דוגמת GPT-4.הוא כן קורא לעצירה של חצי-שנה לטובת מחקר והשקעה משמעותית של Safety בתחום הזה של AIעכשיו, כמו שאמרתי מי שיזם את המכתב הזה ובכלל את כל התנועה הזאת אלו אנשים שהם לא קוטלי-קניםזה אנשים שנמצאים בתחום זמן רבגם שמעתי פודקסט מאוד ארוך של שיחה עם אחד מהם - מקס טגמרק [Max Tegmark], אם אני לא טועה וחתומים על המכתב הזה לא מעט אנשים - ביניהם מי שנחשב ל”הסנדק של AI”, שלמעשה עבד בגוגל עד לא מזמן - ג'ף הינטון [Geoffrey E. Hinton] - הוא זה שאחראי להרבה מאוד מהפיתוחים של AI, של רשתות נוירונים . . .  זאת אומרת, במעבדה שלו למעשה פיתחו את המודל הראשון של AlexNet, שאחראי למהפכת ה-Computer Vision.הוא לא עשה את זה לבד, כמובן - יש יחד איתו את Yoshua Bengio ויש את  . . . שכחתי . . . . מי שמנהל את המחקר בפייסבוק . . .  אבל כמובן לא עשה את כל הסיפור הזה לבד, אבל הוא ללא ספק אחד מהאנשים הבולטים בתחום - והוא בעצ…

פודאסטים מובילים

פרסומת