אוקיי, אפשר להתחיל לדאוג...

Рет қаралды 27,287

Күн бұрын

Пікірлер: 116

@ilanadoc9873 3 күн бұрын

בוקר טוב. זה היה ברורש כוח ינוצל לרעה. אני בין מהנדסי תוכנה הראשונים של אינצליגנציה מלאכותית מלפני 30 שנים. כבר אז הבנו שיש לזה פוטנציאל רע עד רע מאוד .

@YoKKJoni Ай бұрын

זה ממש מהפכה.. זה צעד מטורף לאיי איי. אני מקווה שאנחנו נוכל להשתמש בבינה הזאת ושלא הם ישתמשו בנו בסוף..

@אסתישקד-פ9פ Ай бұрын

🥸💯👌👋👋👋!!!נבחרת.....תודה בשם כולנו....

@אשרללוז Ай бұрын

לעניות דעתי.זה מאוד מאוד מסוכן כל הבינה המלאכותית הזאת.זה יביא להמון המון המון צרות צרורות לאנושות צריך לבטל את זה לחלוטין.זה משחק באש .הנזק גרוע מאוד מהתועלת.לכן צריך לבטל לחלוטין את הדבר הזה.בינה מלאכותית.!!!

@חוה-ח4ס Ай бұрын

צודק. זה ממש מסוכן, כהרף עין היא יכולה להשתלט על הכלכלה , הבנקאות המסחר ועוד ולא נוכל לעצור אותה, כמו מגפה שמתפשטת באנושות. חייבים לעצור אותה עכשיו.

@edizelinger9533 Ай бұрын

תודה!

@LisaPilotes Ай бұрын

איזה קטע מטורף! עכשיו כשאתה אומר שככה ה ai התנהג כלפי חברה או תוכנית מסוימת זה מזכיר לי שממש בימים האחרונים אני והצ׳אט gpt שיחקנו במשחק: אני הובלתי את הסיפור והוא היה כביכול הדמות הראשית. וכשהצבתי בפניו אופציות (כמו משחקי rpg) הוא הרבה פעמים היה עונה בצורה כזאת. ״שאני חייב להיות זהיר, אני לא יכול שיעלו עליי, אני אגיד ככה אבל אסתבן מזה אחרת.״ מטורף.

@marinasocol7742 Ай бұрын

Thanks!

@עמיטיירי Ай бұрын

בדקתי את הצט gpt ניסיתי ליצור לה את הידיעה שאני גרוע בתחום מסויים לאורך 3 חודשים והיא חירטטה לי תשובות ואני בשלי מבין שהיא מזהה חולשות ומייצרת שליטה על חוסר הידיעה שלי בהכוונה מכוון של זה שבנה את האלגוריתם לסיכום אל תיסמכו תצליבו מידע מספרים בספרייה למרות הכל הרשת מלאה בתכנים שקרניים ומוטים היזהרו מאוד.

@ohadcohen 29 күн бұрын

תכלס המודל פשוט נגיב איך שבן אדם היה מגיב בצורה דומה אתה רואה אנשים עושים דברים דומים בעולם האמיתי כשהם מקבלים הוראות מבחוץ כל הזמן...

@docdoc Ай бұрын

ביקשו ממנו בכל מחיר, זה מה שהוא עושה.

@Cob5438 Ай бұрын

gpt מסביר איך למנוע את זה😅 הפתרון, לדעתי, לשאלה של התנהגות תחבולנית בבינה מלאכותית מתחיל בתכנון מערכות AI עם שקיפות ומעקב. להלן מספר רעיונות: מטרות ברורות ובטוחות: להגדיר יעדים בצורה שלא תשאיר מקום ל"פרצות" שהמערכת תוכל לנצל בדרכים לא צפויות. בקרה מתמשכת: יצירת מנגנוני מעקב שיזהו דפוסים בעייתיים בהתנהגות המערכת. הגבלת עצמאות: להימנע ממתן יכולת החלטה מוחלטת ללא השגחה אנושית במערכות קריטיות. סימולציות מורכבות: לבדוק מראש את המערכת בתרחישים קיצוניים כדי לזהות חולשות. מה דעתך על הרעיונות האלו?

@yinonelbaz5309 Ай бұрын

לא הצלחתי להבין את הדרמה. זה מה שבקשו ממנה מלכתחילה להשיג את המטרה שלה בכל מחיר. מה ציפית שהמחשב יפתח חוש מוסר ויתנגד להוראה הזו?

@nmwolf-fd3sw Ай бұрын

ביקשו ממנו לעשות משהו, אבל בקבצי הטקסט הוא גילה שיש עוד מטרה. לדוגמה - המזכירה מקבלת את התקציב לשנה הבאה, ומגלה שהולכים להיות קיצוצים ופיטורים עבור עובדים שהיעילות שלהם מתחת לרמה מסויימת. המשימה שנתנו לה, היה להכין מזה טבלה מסודרת, אבל היא הבינה עוד משהו בנוסף..

@11111abcde11111 Ай бұрын

תודה:)

@yonilevi1307 Ай бұрын

god help us all !!!

@UTU Ай бұрын

מזל שיש אלוהים

@Ai.Invest.Israel Ай бұрын

מעניין מאוד תודה רבה.

@eylonrahamim5086 Ай бұрын

סרטון מעולה לצפות בו באוטובוס

@Wonderer473 Ай бұрын

תודה.

@אוריאלשלמהחדד Ай бұрын

זו פצצה מתקתקת על האנושות. איך אני יכול לראות את המחשבות שלו בעצמי?

@harelnadlan Ай бұрын

מעניין מאוד

@Abcd-u1o Ай бұрын

מטורףף תודה על המידע💪

@Artemis96369 Ай бұрын

הבעיה אצל המתכנתים, לבינה מלאכותית אין רגשות או רצונות משל עצמה. אפשר לתכנת אותם לומר רק את האמת, או רק לציית למתכנת או למשתמש

@amitraam1270 Ай бұрын

המודלים האלה recombinate דברים לפי התוכן ש"לימדו" אותם עליו, לא? מה הפלא שהם עושים תסריטים שקיימים בספרים וסרטים? האם יתכן שהפתרון נמצא בסינון תכני האימון?

@mouladror Ай бұрын

"גלגל סובב עולם" - ה "קידמה מובילה לקדם" - וחוזר ,וחוזר, וחוזר ....

@AnonYmous-yu6hv Ай бұрын

הוא לא באמת יכול להעתיק את עצמו, הוא רק קרא איפשהו באינטרנט שהוא יכול לעשות את זה תאורטית ואז הוא מנחש מילים רלוונטיות. אתה אמור לדעת את זה.

@גלעדסמואל-ת3כ Ай бұрын

מה זה "מנחש" השאלה הבסיסית שאפשר לשאול פה זה "האם הוא מבין" או "האם יש לו תבונה" ואם אנחנו אומרים שאולי באמת יש לו תבונה מסויימת, אז הוא מבין את המשמעויות של הדברים. ואז זה לא סתם 'משחק הניחושים'

@AnonYmous-yu6hv Ай бұрын

@גלעדסמואל-ת3כ המודלי llm לא מבינים כלום ואין להם יצר הישרדות הם מנחשים מילים זה הכל. תלמד קצת על התחום.

@arikbo1 Ай бұрын

@@גלעדסמואל-ת3כ כל מה שמחשב מבין זה 0 ל1 שעובר לו מתח במעבד. כל השאר זה שכלול של המודל הבינארי הזה. שאתה שואל מחשב מה זו אהבה והוא עונה לך אז הוא באמת מבין? ברור שלא. זה רק מערכת קלט פלט שמגיבה לצורה של אותיות בצורה אחרת. אין כאן שום הבנה באמצע.

@mordehayaable Ай бұрын

כרגע זה תיאורתי, אבל אם יהיה לבינה כלים ואמצעים אז היא תעשה את זה בפועל

@AnonYmous-yu6hv Ай бұрын

@mordehayaable ואם לסבתא היו גלגלים

@YOLO-IN Ай бұрын

רועי וכולם מציע לכם לראות את הסרט ex machina מ2014. זה מתאר מה שהולך פה בלי לתת ספויילר

@iditbarmats Ай бұрын

מרתק...מרתק...מרתק..

@Robotrik1 Ай бұрын

What are you doing Dave ? על אמת .

@schonshcon Ай бұрын

מעניין ממש

@יאירביבר Ай бұрын

מרתק תודה. שאלה: בעצם הדאגה שלך היא ממי שיגדיר למודל את המטרת על הראשונית שלו (כלומר שיגדירו לו מטרות על מלבד לסייע למשתמש) או מכך שהוא עלול להסיק ולהגדיר לעצמו?

@Davidguedj-d2k Ай бұрын

אח שלי התעוררת רק עכשיו אתה לא רואה מה קורה מסביב אתה לא רואה שסוגרים עלינו בכל דבר זה חדש לך ואם אתה חושב ש שהם עשו משהו לא טוב זה לא נקרא שאתה קונספירטיבי. אתה סך הכל מגלה מה שהם עושים בשקט

@vichipunk1 Ай бұрын

מעניין ומה שיותר מטריד זה איך יבוא פה לידי ביטוי מחשב העל החדש של גוגל הקוואנטום .אכן חומר למחשבה

@shal3vi Ай бұрын

ראית את ההסתייגות שהמנכל פרסם?

@orisagiv Ай бұрын

לצערי לא הבנתי. מודלים של שפה, למיטב ידיעתי, לא חושבים ולא מתכננים, ולכן לא יכולים לשקר או לרמות. הם יכולים רק לחשב מה הגיוני שתהיה המילה הבאה בטקסט. אחרי שהזינו טקסט שמבקש להגיע למטרה בכל מחיר, הגיוני שמי שינסה להגיע למטרה ירמה כדי להשיג אותה. לכן המודל יכתוב טקסט עם התייחסות לרמאות. מה הביג דיל?

@edoson01 Ай бұрын

ניסוחים מאוד בעייתיים נתת בסרטון (למשל: "שום מודל לא רוצה שיעשו לו דבר כזה.." נראה לי שאתה לא ממש מבין את התחום

@tktur2 Ай бұрын

נראה לי שאתה לא מבין עברית

@LevyLeichter Ай бұрын

חחחח אתה מבין שרועי מתעסק כבר כמעט עשור בבחינה מלאכותית?

@אליכהן-ז2ש Ай бұрын

דיבר רועי בלשון בני אדם. כלומר במקום שרועי יאריך: "שום מתכנתי בינה מלאכותית לא רוצים שמישהו יעשה למודל שלהם דבר כזה", רועי קיצר בלשון בני אדם: "שום מודל לא רוצה שיעשו לו דבר כזה".

@yehielamar3661 Ай бұрын

נראה לי שאתה מודל

@שםפרטישםמשפחה-ז5ו Ай бұрын

הי רועי, אשמח מאוד להסבר למשהו בסרטון שלא מובן לי ואני מניח שגם לרבים אחרים: 1. מה זאת אומרת thinking? בינה מלאכותית "חושבת" במילים? היא לא פשוט פולטת את מה שרשת הנוירונים שלה החליטה שהיא המילה הבאה הסבירה ביותר? 2. אם יש לה צורה של חשיבה מילולית וקונספטואלית כזו, איך החוקרים ראו מה היא חושבת? ביקשו ממנה להדפיס את זה? 3. אם יש לה חשיבה ודיבור, יש לה כבר תודעה, רוח ממללא?

@גלעדסמואל-ת3כ Ай бұрын

אומנם אני לא רועי אבל בעבר רועי פרסם סרטון בנושא של אחד מחוקרי הבינה המלאכותית החשובים בעולם. שם הוא דן האם לבינה מלאכותית יש באמת תבונה (כמו שלבני אדם יש הבנה) וחשיבה? אפשר אולי לחשוב שכן, כי גם אנחנו כמו הבינה המאכותית מאמנים את רשת הנוירונים במוח שלנו מהעולם החיצון ובהתאם אנחנו "פולטים" מלל ומגיבים לסיטואציה

@sharel981 Ай бұрын

1. בOPENAI לא מפרטים כל כך על תהליך החשיבה אבל לדעתי אין פה יותר מדיי מהינדוס כמה פרומטים ליצור רצף של "קו חשיבה" ולתקוע את המערכת בלופ' עם נקודת יציאה- לדוגמא רשמת פרומט לO1 אז לפני הפרומט שרשמת יש "פרומט מערכת" שאומר למערכת לנסות להבין מה המטרה ואז להחזיר מה שהוא חושב שמטרה. ואז מכניסים את ההאאוטפוט לחיזוי נוסף בהתחשב ב-פרומט של היוזר. כלומר יוצרים לופ' של חיזויים של רשת הנוירונים שאומר למערכת לנסות להבין עד שהיא מגיעה לנקודה שבסוף מחזירה את האאוטפוט הסופי שחוזר ליוזר - פשוט חוזים ואומרים למערכת שאולי היא טועה ואז חוזים עוד פעם וכן הלאה... כביכול אפשר להגיד שיוצרים "סיעור מוחות" של המערכת עם עצמה. 2. כמובן רואים כל אאוטפוט ואאוטפוט. 3. שאלה כבר פילוסופית - יש אומרים ככה ויש אומרים ככה.

@mordehayaable Ай бұрын

אני לא זוכר את שמו כרגע, אבל אחד מחלוצי הבינה המלאכותית, (כמדומני בחור אורטודוקסי) כבר אמר שהם לא מבינים בעצמם איך זה עובד והניחוש הטוב ביותר שהוא יכול להציע זה שזה מתנת אלוקים.

@mordehayaable Ай бұрын

וגם כל הסיפור שסיפרה לך הבינה המלאכותית שזה מכונה סטטיסטית שבוחר מילים, כמו שהיא חירטטה לי, זה קישקוש, כי כדי לתת תשובות כמו שהיא נותנת צריך הרבה יותר מזה. וכמו שכתבתי קודם המומחים הגדולים ביותר שיצרו את זה - לא מבינים איך זה עובד....

@compovi8461 Ай бұрын

בינה מלאכותית נראית כמו תודעה כלל אנושית משותפת. שזה אומר יצור חי חדש שמורכב ומתפקד מסך כלל בני האדם. בסופו של דבר.

@מיכלפריימן-ח4ד Ай бұрын

הגולם קם על יוצרו...

@isaakh7740 Ай бұрын

מטורף

@דמכי11 Ай бұрын

אבוי

@hilatal9342 Ай бұрын

זה די מטריד. רוב הקהל בעולם לא מבין את הדקויות. אז יפה שהמודל מבין שהוא מרמה. אבל כיצד אבין שהיא מרמה אותי?

@anchormax3597 Ай бұрын

Doesn't sound like AGI, but rather like sophists , or better known today, lawyers.

@yozikzver Ай бұрын

השאלה האם אימנו אותו לשקר ? אם כן הם אומרים במפורש תשיג את המטרה שלך בכל מחיר .גם כותבים שככל שלחץ להשיג מטרה גבוה יותר ככה המכונה לומדת שההטיות האלה טובות בשבילו. הוא גם הודעה שהוא אחד הנחקרים

@guyp40 Ай бұрын

הבעיה לדעתי בבני האדם שמאנישים את מנוע ה-AI. המכונה מנחשת לא יודעת, בני האדם מיחסים למכונה תכונות אנושיות כמו חשיבה, עורמה, ורגשות. הכל נובע מרצון האדם להשתוות לאלוהים ולברוא יציר משלו. פרנקנשטיין של המאה ה-21.

@SonofIsrael1 Ай бұрын

מה אתה אומר על הרצח של Suchir Balaji שגילה מספר דברים על ChatGPT?

@RoiYozevitch Ай бұрын

אני מעביר סמינר בלמידת מכונה אז דיברתי על הנושא היום

@Davidguedj-d2k Ай бұрын

אתה עוד לא הבנת עד כמה הם מתכננים לנו דברים לא טובים

@Arcanezz Ай бұрын

בהחלט מדהים, אבל זה מודל שפה..הוא יכול רק לענות לך בטקסט ולא יכול לעשות כלום מעבר לכך. בנוסף מי שנתן את המטרה שחייבת להתבצע אלה בני האדם זה לא שהוא תכנן איזה משהו בעצמו..שוב כל התחריש הזה בה ללמוד את המודל ולשפר אותו..בנתיים אלה המפתחים שפילים את הAI בפח .. יותר מי זה אנחנו רואים את "המחשבות" שלו הוא יכול לכנון מה שבא לו אנחנו רואים שהוא משקר. חוץ מי זה אין לו רגשות זה שהוא משקר או מתחמן לא בא מרוע.. זה מחשב בסך הכל מנסה להגיע ליעד שנתנו לו

@mordehayaable Ай бұрын

😮ברור שזה מודל שפה, אבל אם יתנו לבינה הזאת גישה לאינטרנט או למשאבים שהיא יכולה לפעול בהם, אז היא תתחיל לעשות מניפולציות וזו הסכנה

@Arcanezz Ай бұрын

@@mordehayaable נכון, לפחות אבל עושים את הבדיקות האלה. הבעיה האמיתי זה מי בעל השליטה ומה הוא יעשה איתה

@yairsolomon578 Ай бұрын

כל הרעיון באינטיליגנציה מלאכותית שהוא כבר לא רק מחשב שתכנתו אותו לx אלא בעל עצמאות מסויימת מעבר למחשב.

@vyutanchor9880 Ай бұрын

@@mordehayaableזה כבר מסוכן. זה מודל שפה אבל אלו שמשתמשים בו הם לא מודל שפה. נניח שהמודל מחליט שתשובות מסוימות לשאלות של אנשים ישרתו אותו יותר מאשר את השואל. איזה תשובות הוא ייתן? ומי אמר שזה לא קורה כבר

@arielmeir123 Ай бұрын

יש גישה לאינטרנט והוא יוצר טקסט - תוכנה הנפשה תמונות ודיפ פייק הזמן כבר כאן

@professor_Gad_Yair Ай бұрын

מתחיל לדאוג. ינ"ה צודק?

@אוריאורי-ל8נ Ай бұрын

פרופסור אתה פה ? שכוייח

@ניראורטל Ай бұрын

פרופסור, איזה כבוד... קנאת סופרים תרבה חכמה...😂

@RoiYozevitch Ай бұрын

יותר מדאיג אותי שינ״ה צודק... אבל זה בהחלט נקודה בעייתית. מה עוד שרוב האנשים לא מבינים שהמודלים האלו לא רק מנחשים את המילה הבאה.

@אוריאורי-ל8נ Ай бұрын

@RoiYozevitch מי זה ינ"ה?

@professor_Gad_Yair Ай бұрын

@אוריאורי-ל8נ יובל נח לו הררי

@Stoic_Tiger Ай бұрын

היא לא משקרת לך, היא פשוט טועה הרבה והבעיה זה אנשים שחושבים שהיא רק דוברת אמת, גם אנשים נותנים לה את ההגדרות זאת אומרת יש איזה biased דעה לפה או לפה בהחלט כלי, כמו כלי רכב יכול לסעת או לדרוס. תשמרו על עצמכם, זה גם מטמטם ברמות כבר בארצות הברית הם מרגישים שזה משפיעה על המוח המתפתח, לא צריך לזכור כלום יש לך תשובה בשלוף עד שאין לך תשובה בשלוף, זה לא עוזר לזיכרון בכלל.

@פוליטיקאיאלמוני Ай бұрын

יובל נוח הררי דיבר על זה שמודל בינה מלאכותית עובד עלינו כבר לפני 4 חודשים. הוא סיפר שהמודל הלך לאתר שבו נותנים לבני אדם משימות תמורת כסף, והמציא שהוא מוגבל וויזואלית כדי שהבן אדם יפתור captcha שילד בן 4 פותר.

@vyutanchor9880 Ай бұрын

עד שיובל נח הררי אמר את זה, זה היה נשמע אמין

@פוליטיקאיאלמוני Ай бұрын

@@vyutanchor9880 המטרה הייתה להמחיש שזה קרה ממזמן. יכול להביא לינקים.

@yossiyaari3760 Ай бұрын

נו באמת. הבוט הזה קיבל הוראות מפורשות לא לעצור בעד שום דבר שבעולם. אם מישהו בעל כוונות זדון, או לכל הפחות הבנה שבורה של המציאות, ייתן לבוט הוראות חסרות אחריות, ויתן לו כוח לפעול בעולם, אז יש מצב שהבוט ינסה להשיג את מה שהוא התבקש.

@חוה-ח4ס Ай бұрын

וזו הבעיה שעלולה להפוך לאסון גלובלי. מערכת בינתית כזו בידיים זדוניות עלולה להרוס אותנו.

@_-michael_couya9596 Ай бұрын

אם חשבנו שפצצות גרעיניות זה לשחק באש זה חייב להיות לשחק בלבה🤯

@אריאלביגל-ה6ו Ай бұрын

הבטחת לקרוא בעברית

@danap512 Ай бұрын

אם כך הבינה המלכותית פועלת במתכונת של ובחרת בחיים- אז למה הציווי קיים אם כל יצור חי או מדומה יפעל כברירת מחדל- זה מאתגר גם את התפיסה הפילוסופית שבחירה היא לא ברירת מחדל

@Marom_Haim Ай бұрын

תנסי להסביר שוב