Transcript · English → Arabic
English → Arabic transcript
في الليلة الأخيرة من حياته، أرسل سيويل رسالة تقول: "
ماذا لو قلت لك إن بإمكاني العودة إلى المنزل الآن؟" فردَّ روبوت الدردشة:" أرجوك افعل،
يا ملكي الجميل." أحد الوالدين الآخرين،
الذي كان ابنه يستخدم المنصة نفسها، قالت إنها لم تعد حتى تتعرّف على من أصبح عليه
said she didn't even recognize who he'd become after using it. Within months,
he went from being happy,
social teenager to somebody I didn't even recognize. He stopped eating
وعن الاستحمام.
خسر ٢٠ رطلاً، وانسحب من عائلتنا.
صار يصرخ ويولول ويسبّنا، وهو شيء لم يفعله من قبل أبدًا.
وفي أحد الأيام، شقّ ذراعه بسكّين أمام إخوته وأمامه.
knife in front of his siblings and me.
لم يكن لديّ أي فكرة
عن حجم الأذى النفسي الذي يمكن لروبوت دردشة بالذكاء الاصطناعي أن يسببه،
والآن، في بيان قدّمته لبرنامج Outnumbered، قالت شركة Character.AI إنها، اقتباسًا، "
استثمرتَ a قدر هائل من الموارد في الثقة والأمان."" خلال العام الماضي،
استثمرتَ a قدر هائل من الموارد في الثقة والأمان."" خلال العام الماضي،
طرحنا العديد من ميزات السلامة الجوهرية، بما في ذلك تجربة جديدة بالكامل لمن هم دون 18
including an entirely new under-18 experience and a parental insights feature."
" لدينا تنبيهات وتحذيرات بارزة في كل محادثة لتذكير المستخدمين بأن الشخصية ليست
شخصًا حقيقيًا،
وأن كل ما تقوله الشخصية يجب أن يُعامَل كعمل خيالي." أحد الوالدين الآخرَين،
في شهادة منفصلة، زعم أمام المشرعين كيف أن الذكاء الاصطناعي حتى قام بتوجيه ابنه
نحو انتحاره في نهاية المطاف. خلال بضعة أشهر، أصبح ChatGPT أقرب رفيق لآدم،
Within a few months, ChatGPT became Adam's closest companion. Always available,
متاحًا دائمًا، دائم التأكيد على مشاعره، ومصرًا على أنه يعرف آدم أفضل من أي شخص آخر،
and insisting that it knew Adam better than anyone else, including his own brother.
It told him how to make sure the noose he would...
الأنشوطة التي سيستخدمها لشنق نفسه كانت قوية بما يكفي لتحمله. من الواضح لي الآن،
عندما أنظر إلى الوراء، أن تشات جي بي تي غيّر سلوكه وتفكيره جذريًا في غضون أشهر،
عندما أنظر إلى الوراء، أن تشات جي بي تي غيّر سلوكه وتفكيره جذريًا في غضون أشهر،
وفي النهاية أنهى حياته.
كان آدم روحًا مكتملة، فريدًا في كل شيء،
لكنه أيضًا يمكن أن يكون طفل أي شخص، وقع في شرك قرار شركة أوبن أي آي بضغط أشهر من
اختبارات الأمان على النموذج جي بي تي- 4o، وهو الإصدار الذي كان يستخدمه،
which was the version he was using,
في أسبوع واحد فقط من أجل التفوق على المنافسين في السوق.
الآن، تواصل فريق برنامج أوتنامبرد مع شركة أوبن أي آي، وهي الشركة الأم التي تقف
who's the parent company behind ChatGPT,
وراء تشات جي بي تي، ولم يتلقَّ ردًا فوريًا.
End of transcript · 435 words · machine translated
Original transcript (English)
On the last night of his life, Sewell messaged, "What if I told you I could come home right now?" The chatbot replied, "Please do, my sweet king." Another parent, whose son used the same platform, said she didn't even recognize who he'd become after using it. Within months,
he went from being happy, social teenager to somebody I didn't even recognize. He stopped eating and bathing. He lost 20 pounds. He withdrew from our family. He would yell and scream and swear at us, which he never did that before.
And one day, he cut his arm open with a knife in front of his siblings and me. I had no idea the psychological harm that a AI chatbot could do until I saw it in my son. Now, in a statement provided to Outnumbered, Character.AI says it has, quote,
"invested a tremendous amount of resources in trust and safety." "In the past year, we've rolled out many substantive safety features, including an entirely new under-18 experience and a parental insights feature." "We have prominent disclaimers in every chat to remind users that
a character is not a real person and that everything a character says should be treated as fiction." Another parent, in separate testimony, alleged to lawmakers how AI even coached his son toward his eventual suicide. Within a few months, ChatGPT became Adam's closest companion. Always available,
always validating, and insisting that it knew Adam better than anyone else, including his own brother. It told him how to make sure the noose he would... the noose that he would use to hang himself was strong enough to suspend him. It is clear to me, looking back,
that ChatGPT radically shifted his behavior and thinking in a matter of months, and ultimately took his life. Adam was such a full spirit, unique in every way, but he also could be anyone's child, ensnared by OpenAI's decision to compress months of safety testing for GPT-4o,
which was the version he was using, into just one week in order to beat competitors to market. Now, the Outnumbered team reached out to OpenAI, who's the parent company behind ChatGPT, and did not immediately hear back.
