כל תכני עושים היסטוריה

איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]

41 min · 18 de may de 2026
Portada del episodio איך באמת מריצים LLM בסקייל עצום? [עושים תוכנה]

Descripción

מה הופך בקשה אחת ל-LLM למורכבת כל כך מאחורי הקלעים? איך מאות מיליארדי פרמטרים נדחסים על עשרות GPUs, ואיך כל ה-cluster הזה משרת אלפי משתמשים במקביל בלי להתפוצץ? אירחתי את מייק ארליכסון, אושייה בעולם הAI, ופירקנו את עולם ה-inference מבפנים: KV cache, batching, ההבדל בין prefill ל-decode, חלוקה של מודל בין GPUs שונים, ו-Mixture of Experts. דיברנו גם על למה זה הפך לאחד התחומים הכי קריטיים בעולם ה-AI - וגם איך נכנסים אליו אם אתם מהנדסים שרוצים להתחיל להריץ מודלים בעצמכם. האזנה נעימה, עמית בן דור.

Comentarios

0

Sé la primera persona en comentar

¡Regístrate ahora y únete a la comunidad de כל תכני עושים היסטוריה!

Prueba gratis

Empieza 7 días de prueba

$99 / mes después de la prueba. · Cancela cuando quieras.

  • Podcasts solo en Podimo
  • 20 horas de audiolibros al mes
  • Podcast gratuitos

Todos los episodios

997 episodios

episode טדאימה ואוקאירי: איפה מתחיל ונגמר הבית ביפן? [מילים ביפנית שאין בעברית] artwork

טדאימה ואוקאירי: איפה מתחיל ונגמר הבית ביפן? [מילים ביפנית שאין בעברית]

מה זה טדאימה ואוקאירי? הפעם דנה נחום הרמן ויושיגוצ'י מארחים את לי קימורה, ישראלית-יפנית, כדי להעמיק במושגים שמגדירים את גבולות הבית ביפן. דרך המילים "טאדאימה" ו"אוקארי", הם צוללים אל המשמעות המיוחדת של המעבר מהמרחב הציבורי למרחב הפרטי והמוגן. נדבר על הטקסיות של חליצת הנעליים, מבנה הבית היפני וב"גנקאן" (חדר הכניסה), ונבחן את הפערים התרבותיים המפתיעים שבין אירוח "חופשי" בישראל לאירוח מדורג ומאופק ביפן – כולל הסיטואציה המביכה שנוצרת כשישראלים מרגישים מספיק בנוח כדי פשוט לפתוח את המקרר.

26 de may de 202645 min
episode חומר ביד היוצר, יעקב שנקר [יוצאים בשאלה] artwork

חומר ביד היוצר, יעקב שנקר [יוצאים בשאלה]

יעקב שנקר גדל בקהילה חסידית בצפת, ובגיל שתים עשרה חווה פגיעה מינית מאחד המורים שלו. אף אחד לא ידע. אף אחד לא שאל. בגיל חמש עשרה זרקו אותו מהבית, ומשם התגלגל ברחובות עד שמישהו ראה אותו לראשונה. בפרק הזה הוא מספר על הדרך מהרחוב אל הפנימיה שהצילה לו את החיים, ומשם לשירות קרבי בכפיר שהסתיים בפוסט טראומה שנים לאחר השחרור. ועל איך דרך קרמיקה, כלבים, ויצירה הוא מצא את הדרך חזרה לעצמו. האזינו ועקבו אחרינו בספוטיפיי, אפל פודקאסטס ובכל שאר פלטפורמות הפודקאסטים. יוצאים בשאלה, מבית עמותת הלל, בהנחיית מינדי ארליך.

25 de may de 20261 h 1 min
episode הגבר המיני - כשציפייה פוגשת מציאות [עושים פסיכולוגיה] artwork

הגבר המיני - כשציפייה פוגשת מציאות [עושים פסיכולוגיה]

כובש, מתפקד, בעל הון טוסטסטרון. להיות גבר זה גם להיות מיני - תמיד דלוק, תמיד מוכן, תמיד יוזם. כי לגבר תמיד מותר סקס אבל לא כל כך מותר להביע כאב, חולשה, להיות פגיע. אצל אישה זה בדיוק הפוך. מה קורה כשהתפקידים האלה נפגשים בתוך זוגיות אמיתית - עם שנים, ילדים, עייפות ואינטימיות שמשתנה. ומה קורה כשגבר לא רוצה, מוסח, תשוש או שלא הולך לו כמו שהוא רוצה? התמונה שציירו לנו של הגבר המיני היא אחת הציפיות הכי כבדות שהגבר נושא והפעם נדבר שוב עם חננאל רוס, רב ופסיכולוג קליני, על מה שנמצא מתחת לזה - גבריות, מיניות וזוגיות.

18 de may de 202644 min