דרוש מידע מה הסיכון בAI?

[היפרסוני]

עושה רושם שהציבור לא יודע את הסיכון שבAI
מה לדעתכם הסיכון בהשתמשות בAI?

נ.ב. יש בעיות גלובליות, זה דיון אחר,
פה השאלה היא מה הסיכון של המשתמש עצמו.

 

[הלובי]

כנראה שהסכנה הכי גדולה היא שאנשים סומכים על הAI והוא בהחלט מביא מידע מוטעה בעיקר כשאין לו מידע יש תופעה שנקראת הזיות AI והוא פשוט ממציא נתונים (יש איזשהוא מישהו שבדק עם AI האם הנחש שהוא רואה ארסי בינה אמרה שהוא לא ארסי והוא נעקץ על ידי הנחש שנמצא ארסי כך ראיתי לאחרונה) בנוסף יש בעיה שאנשים מתמכרים אליו וגם יש כאלו שמפתחים בAI תלות כמו"כ אם תשתמש בו לשאלה משפטית והוא טועה יתכן גם נזק כספי וכו"

 

[ELO]

שאלתי את הבינה המלאכותית:
שאלה מצוינת, ובצדק עולה כמעט בכל ארגון היום. הנה מיפוי מסודר של הסיכונים העיקריים בשימוש ב-AI, בלי היסטריה אבל גם בלי לייפות

---

פרטיות ואבטחת מידע​

• הזנת מידע רגיש (שמות, תעודות זהות, קבצים פנימיים) לכלי AI ציבוריים
• זליגת מידע דרך אימון מודלים או לוגים
  סיכון גבוה במיוחד בארגונים ציבוריים/ממשלתיים

---

אמינות והזיות (Hallucinations)​

• AI עלול להמציא עובדות, פסיקות, קישורים או ציטוטים
• נשמע בטוח בעצמו גם כשהוא טועה
  מסוכן בהחלטות משפטיות, רפואיות, אבטחת מידע

---

הטיה (Bias)​

• המודל לומד מנתונים אנושיים → יורש הטיות
• עלול לפגוע בקבוצות מסוימות או לקבל החלטות לא הוגנות
  קריטי במיון עובדים, קבלת קצבאות, אכיפה

---

תלות והיחלשות חשיבה​

• שימוש מופרז → פחות ביקורת, פחות בדיקה
• “אם ה-AI אמר כנראה שזה נכון”
  פוגע במקצועיות לאורך זמן

---

זכויות יוצרים ואחריות משפטית​

• לא תמיד ברור מה מקור התוכן
• שימוש בתוצר AI עלול להפר זכויות
• מי אחראי אם זה שגוי?
  סוגיה פתוחה משפטית

---

שימוש זדוני​

• פישינג מתוחכם
• כתיבת קוד זדוני
• התחזות חכמה מאוד
  מעלה את רמת האיום, גם מצד גורמים לא מתוחכמים

---

חוסר שקיפות​

• “קופסה שחורה”: קשה להבין למה התקבלה החלטה
  בעייתי ברגולציה ובמערכות קריטיות

 

[היפרסוני]

עושה רושם שהציבור לא יודע את הסיכון שבAI

הAI עצמו לא יודע את הסיכון הכי קריטי, למשתמש.
מפתיע??

 

[mklj]

עושה רושם שהציבור לא יודע את הסיכון שבAI
מה לדעתכם הסיכון בהשתמשות בAI?

נ.ב. יש בעיות גלובליות, זה דיון אחר,
פה השאלה היא מה הסיכון של המשתמש עצמו.

זה חידה?

 

[היפרסוני]

זה חידה?

לא
לדעתי רוב הציבור אשכרה לא יודע מה מסוכן בשימוש במודל שפה
שאלתי כדי לראות מה כן או לא יודעים בעניין

 

[mklj]

לא
לדעתי רוב הציבור אשכרה לא יודע מה מסוכן בשימוש במודל שפה
שאלתי כדי לראות מה כן או לא יודעים בעניין

חשבתי שאתה רוצה לספר על הסכנה לציבור.
או לשמוע דעה של אנשים אחרים.
אבל אם אני אגיד את דעתי נגיד- תרצה לבחון אם אני קולעת לדעתך?
אולי פשוט תכתוב את דעתך?

 

[דף גמרא]

לא
לדעתי רוב הציבור אשכרה לא יודע מה מסוכן בשימוש במודל שפה
שאלתי כדי לראות מה כן או לא יודעים בעניין

אנחנו במתח...

 

[היפרסוני]

חשבתי שאתה רוצה לספר על הסכנה לציבור.

או לשמוע דעה של אנשים אחרים.

אבל אם אני אגיד את דעתי נגיד- תרצה לבחון אם אני קולעת לדעתך?

אין מה לבחון, זה לא אישי

 

[דף גמרא]

אני כבר מבולבל
האם יש סכנה משימוש בAI שרוב הציבור לא מודע אליה?
זה ממש מלחיץ
אולי תספר כדי שנדע להזהר

 

[לורנס]

'דעת תורה' ו'הלכות' שגויות
בלבול בין דתות

 

[mklj]

'דעת תורה' ו'הלכות' שגויות

מי משתמש בבינה לדעת תורה והלכות?

 

[שנים]

עושה רושם שהציבור לא יודע את הסיכון שבAI
מה לדעתכם הסיכון בהשתמשות בAI?

נ.ב. יש בעיות גלובליות, זה דיון אחר,
פה השאלה היא מה הסיכון של המשתמש עצמו.

בדקתי, אין סיכון

 

[לורנס]

מי משתמש בבינה לדעת תורה והלכות?

בציבור החרדי פחות, וגם יודעים לזהות טעויות, ב"ה
אבל תארו לכם חילוני למהדרין רוצה לדעת משהו על היהדות ומסתמך על הGPT???

 

[ורד בגליל]

וזה גם חסום בנטפרי (הלכות וכד')
מי שאין לו חסימה על המחשב הוא כבר במצב גרוע

באמת אנו זקוקים להסבר טוב מה הבעיה בזה למי שהוא בן תורה
אדם נורמלי, לא סומך עליו בדברים שחשובים באמת, כי הוא גם פוגש את זאת שיש שם הרבה בלבולים

 

[mklj]

בציבור החרדי פחות, וגם יודעים לזהות טעויות, ב"ה
אבל תארו לכם חילוני למהדרין רוצה לדעת משהו על היהדות ומסתמך על הGPT???

מי שמסתמך על ג'יפי היום הסתמך קודם על רבי גוגל ולא על שאלת רב.

 

[ברוך ר]

הבעיה המרכזית היא שאנשים סומכים עליו יותר מדי, מתייעצים איתו בנושאים רגשיים וטיפוליים
הAI מביא מידע מכל העולם, גם ממקומות מפוקפקים שאמינות המידע שלהם נמוכה עד אפסית ואף אחד באמת לא יודע שזה משם
בטיפול שיניים אף אחד לא ילך למישהו לא מקצועי ושאין לו תואר בטיפול שיניים ומומחיות. ובזה כולם שואלים בלי לחשוב שלו יצויר זה היה אדם, אף אחד לא היה מסתכל לכיוונו.
הרי לבינה אין שום תעודה ושום הסמכה לדעות שהוא כותב. מי אמר שזה נכון ? הרבה פעמים המידע מפוברק
יש מצבים שאנשים יודעים שזה מפוברק. ומה עם הפעמים שלא ?
שלא נדבר על זה שאפשר להכניס כך דעות כפרניות מהדלת האחורית. בויקיפידה יש כאלה שיודעים שיש שם דעות של כפירה, ולכן הוקם המכלול
אבל מי יודע אם מה שבינה כותבת היא לא כפירה ?

 

[פרובוק]

מישהו אמר לי שפעם הוא ביקש איזה רעיון מסוים והAI הביא לו והוא ביקש ממנו מקור וAI כתב לו שזה מחובות הלבבות והוא חיפש דף דף ולא מצא מקור כזה וכשכתב את זה ענה לו הAI: זה ברוח הדברים...
מזעזע מזעזע!!! אי אפשר לסמוך עליו בכלום!

 

[היפרסוני]

אין לי סבלנות לכתוב ארוך, ואין פיצ'ר קולי.
הסכנה הגדולה היא

התמכרות

כן התמכרות,

אם כך ממה עשיתי רעש? זו בעיה שיש ב1001 עניינים אחרים, לא?

נכון
רק שAI משתמש בכלים ממכרים פי כמה מכל רשת חברתית\אפליקציה שיש

מה גורם לכם להתחבר לחבר?
מה גורם לכם לשמור על קשר קרוב עם המשפחה?
המנגנון בנוי על אמפתיה דיאלוג ועוד ועוד
רבתם? אם החבר יתנצל וישפר את דרכו, אתם תהיו חברים עוד יותר טובים ממה שהייתם.

הAIעושה את כל זה ברמה גבוהה (ומשתפר מאד עם הזמן והגרסה)


האמת, כדי להסביר את הנ"ל נצטרך הרצאה ארוכה,
כולל הסברים על הנאה וכאב ומה גורם לנו לפעול לטווח ארוך


בקיצור
התמכרות עמוקה

 

[לארג']

איזה חרדי שואל אותו על רוחניות והלכות ?

מבחינתי הבעיה שהוא תמיד מנסה לרצות אותך
ולכן אני תמיד שואל הפוך או אומר לו תגיד לי דוגרי.