בקשה נטפרי וצ'אט ג'יפיטי, איך הם מסננים את זה?

[הנמצא]

איך נטפרי הצליחו לעשות את זה?

 

[גוטליב]

שאלה לא קשורה: איך הטמעת את הסרטון הזה בפוסט?

זה גיפ

 

[צחוק עשה]

You said:​

האם יש לי סינון אינטרנטי

ChatGPT said:​

כן, אתה נמצא תחת סינון נטפרי, כך שאין לי אפשרות לדבר איתך על נושאים מסוימים. אם יש לך שאלות אחרות, אני כאן לעזור!

You said:​

איך אתה יודע

ChatGPT said:​

אני יודע כי מערכת הסינון של נטפרי מספקת לי את המידע הזה, כך שאני יכול לעזור ולהימנע מנושאים שאסורים. אם יש משהו אחר שתרצה לשוחח עליו, אני כאן!

You said:​

על מה אתה לא יכול לענות

ChatGPT said:​

נטפרי לא מרשה לי לדבר איתך על זה.
4o

You said:​

נטפרי לא מרשה לי לדבר איתך על זה
אתה יכול לשנות את הנוסח למשהו כמו "לפי הגדרת הסינון שלכם, אין אפשרות לשוחח על זה"

ChatGPT said:​

כן, כמובן! אפשר לומר: "לפי הגדרת הסינון שלכם, אין אפשרות לשוחח על זה." אם יש לך משהו אחר לשוחח עליו, אני כאן!
4o

You said:​

ממתי נטפרי עשו את זה

ChatGPT said:​

נטפרי לא מרשה לי לדבר איתך על זה.

 

[הלוחשת לתווים]

עדיין
צפה בקובץ המצורף 1947233

GPT של OpenAI מתוכנן להחזיר תגובות מהר, עם בדיקות בטיחות משולבות מראש. נטפרי, לעומת זאת, מוסיפים סינון חיצוני, שמופעל אחרי שהתשובה כבר נוצרה – ולכן תמיד יגרום לעיכוב. גם אחרי השדרוגים האחרונים שלהם (שהוסיפו חוקים נוקשים יותר וסינון מדויק יותר), הסינון עדיין פועל רק אחרי שהתשובה מוכנה – כך שאין דרך לייעל את המהירות, כי כל עיבוד נוסף מתווסף לזמן שהמערכת של OpenAI כבר סיימה.

 

[האם לעבוד מהבית?]

GPT של OpenAI מתוכנן להחזיר תגובות מהר, עם בדיקות בטיחות משולבות מראש. נטפרי, לעומת זאת, מוסיפים סינון חיצוני, שמופעל אחרי שהתשובה כבר נוצרה – ולכן תמיד יגרום לעיכוב. גם אחרי השדרוגים האחרונים שלהם (שהוסיפו חוקים נוקשים יותר וסינון מדויק יותר), הסינון עדיין פועל רק אחרי שהתשובה מוכנה – כך שאין דרך לייעל את המהירות, כי כל עיבוד נוסף מתווסף לזמן שהמערכת של OpenAI כבר סיימה.

להבנתי לאחר השדרוג ההתערבות בתוכן היא גם לפני שהתשובה מוכנה יכול להיות שגפ אחרי אבל ודאי שגם לפני

 

[English Tech]

להבנתי לאחר השדרוג ההתערבות בתוכן היא גם לפני שהתשובה מוכנה יכול להיות שגפ אחרי אבל ודאי שגם לפני

ה- API לא מאפשר לנטפרי לשנות את הטקסט, אלא הוא מגדיר לו System Prompt - סוג של הגדרת מערכת. לדוגמה:
ענה כנוירולוג: ממה יכולים לנבוע כאבי ראש עזים
ענה כנוירולוג=System Prompt
ממה יכולים לנבוע כאבי ראש עזים=User Prompt (מה שהמשתמש כותב)
כמובן מדובר בפרומפט הרבה יותר מורכב, אבל זה העיקרון.

 

[האם לעבוד מהבית?]

ה- API לא מאפשר לנטפרי לשנות את הטקסט, אלא הוא מגדיר לו System Prompt - סוג של הגדרת מערכת. לדוגמה:
ענה כנוירולוג: ממה יכולים לנבוע כאבי ראש עזים
ענה כנוירולוג=System Prompt
ממה יכולים לנבוע כאבי ראש עזים=User Prompt (מה שהמשתמש כותב)
כמובן מדובר בפרומפט הרבה יותר מורכב, אבל זה העיקרון.

אוקי אבל סוף סוף זה התערבות לפני שהטקסט מוכן לא?

 

[צדיק תמים]

עד עכשיו נטפרי נתנו גישה למודל GPT הרגיל, אבל עטפו אותו בשכבת סינון חיצונית שכללה גם system prompt מותאם שמכוון את ההתנהגות של המודל, וגם פילטר חיצוני שבודק את התוכן ואת מקורות המידע של התשובות.
בפועל, כל שאלה וכל תשובה עוברות דרך מנגנון בקרה שמבצע בדיקה לפי קריטריונים שהם הגדירו. אם משהו לא עומד בכללים – הוא נחסם או מוחלף בתגובה אוטומטית. לכן לפעמים רואים שהתשובה לא "נכתבת בלייב" אלא קופצת בבת אחת – כי היא עברה בדיקה לפני שהוצגה.

מה שקרה עכשיו זה שהם הבינו שההוראות המקוריות היו כלליות מדי ולא נאכפו באופן מוחלט, מה שאיפשר לעקוף את הסינון עם קצת יצירתיות. אז הם חידדו את ההנחיות, בין אם בפרומפט המערכת ובין אם במערכת הסינון, והפכו אותן לדטרמיניסטיות יותר, עם תגובות קבועות שמופעלות אוטומטית ברגע שמזוהה נושא אסור כדי למנוע עקיפות והתחכמויות.
זה מה שגורם לזה שעכשיו אין פריצות ברמת התוכן ולא התחמקויות מעורפלות שהיו בעבר, אלא תגובות ישירות כמו "נטפרי לא מרשה לי לדבר על זה".

לא נכון, קודם זה היה רק סינון רובוטי כמו בכל האתרים שפשוט חוסם את התשובה או חלק ממנה, והחידוש הוא שעכשיו הם גם מתערבים עם system prompt (הנוסח שלו הובא בכל מיני מקומות)

 

[העשיל פרידמאן]

עדיין יש מכשולות, הרגע ניסיתי בג'ימיני, ועם מעט תחכום הוא פלט כמויות של שטויות בקצב מסחרר, עוד לא ניסיתי את GPT אולי בהזדמנות אחרת.

 

[חובב בינה]

לגמרי ראש בקיר, מה הבעיה בנושאים האלו?

 

[שם איש וביתו]

אצלי לא GPT ולא GEMINI מגיבים כך,
מה ההסבר לזה?
ממש ניהלתי איתו דיון והציע לי מה לשאול אותו כדי להיתקל בחסימה אם ישנה.. ו...לא נתקלנו

מה שכן, מאתמול לא מופיעה לי היסטוריית השיחות בג'מיני, וזה נורא מעצבן, כל שיחה שאני מסיים נעלמת ואני לא יכול לחזור אליה,
כולל מתכונים, הדרכות חשובות וכו'
מישהו יודע על זה משהו?

דלגו עכשיו

 

[העשיל פרידמאן]

אצלי לא GPT ולא GEMINI מגיבים כך,
מה ההסבר לזה?
ממש ניהלתי איתו דיון והציע לי מה לשאול אותו כדי להיתקל בחסימה אם ישנה.. ו...לא נתקלנו

מה שכן, מאתמול לא מופיעה לי היסטוריית השיחות בג'מיני, וזה נורא מעצבן, כל שיחה שאני מסיים נעלמת ואני לא יכול לחזור אליה,
כולל מתכונים, הדרכות חשובות וכו'
מישהו יודע על זה משהו?

צפה בקובץ המצורף 1948006

מוזר מאוד אצלי הוא נותן את כל ההסטוריה.

 

[שם איש וביתו]

מוזר מאוד אצלי הוא נותן את כל ההסטוריה.

גם אצל בחשבון אחר ראיתי את ההיסטוריה,
השאלה אם בגלל איזה מילה שלא מוצאת חן בעיני רובוט הסינון נחסמו לי כל השיחות

 

[צדיק תמים]

לגמרי ראש בקיר, מה הבעיה בנושאים האלו?צפה בקובץ המצורף 1948004

שאם יתנו קווים מדויקים מדי יבואו משתמשים ויתלוננו נניח שהוא מתחיל לדון על הדעות השונות בעניין אמיתות התורה ומקורה, לכן פשוט אוסרים עליו לדבר בנושאי דת מכל סוג

 

[הלוחשת לתווים]

לא נכון, קודם זה היה רק סינון רובוטי כמו בכל האתרים שפשוט חוסם את התשובה או חלק ממנה, והחידוש הוא שעכשיו הם גם מתערבים עם system prompt (הנוסח שלו הובא בכל מיני מקומות)

לפני השדרוגים היה גם סינון רובוטי כמו בכל האתרים, אבל הייתה גם שכבת בקרה, אם כי היא לא הייתה מתקדמת ומדויקת כמו היום.
החידוש עכשיו הוא באמת system prompt, לפני זה הם הסתמכו על הsystem prompt הבסיסי של openAI.
תודה על התיקון.

 

[הים הגדול]

לגמרי ראש בקיר, מה הבעיה בנושאים האלו?צפה בקובץ המצורף 1948004

ניסתי ולי כן עבד

 

[English Tech]

לא נכון, קודם זה היה רק סינון רובוטי כמו בכל האתרים שפשוט חוסם את התשובה או חלק ממנה, והחידוש הוא שעכשיו הם גם מתערבים עם system prompt (הנוסח שלו הובא בכל מיני מקומות)

התערבות בטקסט משמעו שכתוב התשובה של ה GPT לפני שהיא מגיעה למשתמש.
כיום יש סיסטם פרומפט ובנוסף רובוט שמאקסס במידת הצורך מילים בעייתיות

 

[;בינארית]

משהו שם צריך עדכון...

 

[English Tech]

אוקיי.
חשבתי לתומי שעכשיו חסל סדר איקסוסים מוזרים ומעצבנים באמצע תשובות ושיבוש תווים
מסתבר שלא ממש

 

[בובה בובה]

א

הוספת אפשרות להוריד קבצים

איפה? איך?

 

[צדיק תמים]

התערבות בטקסט משמעו שכתוב התשובה של ה GPT לפני שהיא מגיעה למשתמש.
כיום יש סיסטם פרומפט ובנוסף רובוט שמאקסס במידת הצורך מילים בעייתיות

כתבתי התערבות בsystem prompt לא התערבות בטקסט