Oron är stor inte bara i New York, skolor och universitet runt om i Sverige har också kommenterat ChatGTP och dess förmåga att skapa texter, publikationer, essäer och arbeten utan en egen isats.
New York City’s offentliga skolor har begränsat tillgången till ChatGPT, det konstgjorda intelligenssystemet som kan generera text om en mängd ämnen och i olika stilar, på skolans nätverk och enheter. Som det rapporterades tidigare idag och bekräftades av en talesperson för New York City Department of Education, så implementerades begränsningen på grund av oro för “negativa effekter på elevernas lärande” och “säkerhet och korrekthet” av det innehåll som ChatGPT producerar.
“Även om verktyget kan ge snabba och enkla svar på frågor, så bygger det inte kritiskt tänkande och problemlösningsförmåga, vilket är avgörande för akademisk och livslång framgång”, sade talespersonen till TechCrunch via e-post och tillade att den begränsade tillgången kom som ett svar på förfrågningar från skolor.
Det är inte ett förbud i sig. New York City’s offentliga skolsystem använder samma filter för ChatGPT som det använder för att blockera andra appar och webbplatser – till exempel YouTube och Facebook – på skolområdet. Individuella skolor kan begära att ChatGPT ska bli oblockerad och talespersonen sade att New York City Department of Education skulle “välkomna” möjligheten att ha en konversation med OpenAI, företaget bakom ChatGPT, om hur verktyget kan anpassas för utbildning.
När man sökte en kommentar från OpenAI, så sade en talesperson från företaget att företaget utvecklar “åtgärder” för att hjälpa någon att identifiera text som genererats av ChatGPT. Det är viktigt. Medan TechCrunch rapporterade tidigare att OpenAI experimenterade med en märkningsteknik för AI-genererad text, så är det första gången som OpenAI bekräftar att det arbetar med verktyg speciellt för att identifiera text som kommer från ChatGPT.
“Vi gjorde ChatGPT tillgänglig som en forskningsförhandsgranskning för att lära oss från verkliga användningar, vilket vi tror är en viktig del av att utveckla och implementera kapabla och säkra konstgjorda intelligenssystem. Vi integrerar ständigt feedback och lärdomar”, Vi integrerar ständigt feedback och lärdomar”, sade OpenAI-t
alespersonen. “Vi har alltid krävt transparens kring användningen av AI-genererad text. Våra policyer kräver att användare var ärliga med sin publik när de använder vår API och kreativa verktyg. Vi ser fram emot att arbeta med lärare på användbara lösningar och andra sätt att hjälpa lärare och elever att dra nytta av AI.”
ChatGPT har förmågan att svara på frågor om ämnen som sträcker sig från poesi till kodning, men ett av dess största brister är ibland att ge svar som låter övertygande men inte är faktiskt sanna. Det ledde Q&A-kodningswebbplatsen Stack Overflow att tillfälligt förbjuda användare från att dela innehåll som genererats av AI, eftersom ChatGPT gjorde det för enkelt för användare att översvämma plattformen med tveksamma svar. Mer nyligen annonserade International Conference on Machine Learning, en av världens största konferenser om AI och maskininlärning, ett förbud mot papper som innehåller text som genererats av ChatGPT och andra liknande AI-system av rädsla för “oväntade konsekvenser”.
Inom utbildning har debatten kretsat huvudsakligen kring möjligheten till fusk. Gör en Google-sökning på “ChatGPT to write school papers”, och du kommer att hitta många exempel på lärare, journalister och elever som provar genom att använda ChatGPT för att fullfölja läxor och standardiserade essätester. Wall Street Journal-kolumnisten Joanna Stern använde ChatGPT för att skriva en godkänd AP English-essä, medan Forbes-medarbetaren Emma Whitford använde det för att avsluta två college-essäer på 20 minuter. När han pratade med The Guardian, så minns Arizona State University-professorn Dan Gillmor hur han gav ChatGPT en av de uppgifter han vanligtvis ger sina elever och hittade att AI:s essä skulle ha fått “bra betyg”.
Plagiat är en annan oro. Liksom andra textgenererande AI-system, kan ChatGPT – som tränas på offentlig data, vanligtvis samlats in utan samtycke – ibland återge denna information ordagrant utan att citera några källor. Det inkluderar faktafel, som antyddes tidigare, samt fördomar – inklusive öppet rasistiska och sexistiska perspektiv. OpenAI fortsätter att införa filter och tekniker för att förhindra problematiska textgenereringar, men nya lösningar dyker upp varje dag.
Trots dessa begränsningar och problem ser vissa lärare pedagogisk potential i ChatGPT och andra former av generativ AI-teknik. I en nyligen publicerad artikel för Stanford Graduate School of Educations hemsida påpekade Victor Lee, professor i utbildning vid Stanford, att ChatGPT kan hjälpa eleverna att “tänka på sätt som de för närvarande inte gör” – till exempel genom att hjälpa dem att upptäcka och klargöra deras idéer. Lärare kan också dra nytta av ChatGPT, menar han, genom att generera många exempel för eleverna där grundinnehållet är detsamma men stilen, syntaxen eller grammatiken skiljer sig åt.
“ChatGPT kan [tillåta] eleverna att läsa, reflektera och ändra många gånger utan den smärta eller frustration som sådana processer ofta väcker, [medan] läraren kan använda verktyget som ett sätt att generera många exempel och icke-exempel på en form eller genre,” sade Lee i ett uttalande. “Obstojligt, lärare är mindre förtjusta över att datorn gör mycket arbete för eleverna. Och eleverna måste fortfarande lära sig att skriva. Men på vilket sätt, och vad slags skrivande? En … biverkning av detta nya läkemedel är att det kräver att alla oss att ställa dessa frågor och förmodligen göra vissa substansiella förändringar i de övergripande målen och metoderna för vår undervisning.”
Oavsett det, kommer New York Citys offentliga skolors policy, som verkar vara den första i landet, säkert tvinga konversationen på skoldistrikt i andra städer. När användningen av tekniken växer – ChatGPT hade över en miljon användare i december – har oberoende forskare och företag börjat pilotera verktyg för att upptäcka användningen av AI-genererad text i studentinskick. Vissa lärare kan välja att ta emot dem medan andra, som Lee, i stället uppmuntrar användningen av ChatGPT som ett hjälpmedel för skrivande.
OpenAI arbetar främst inom följande områden
OpenAI har fokuserat på att utveckla konstgjord intelligens (AI) för ett brett spektrum av områden, inklusive:
- Automatiskt skrivande: Genom att använda AI-modeller som ChatGPT har OpenAI utvecklat verktyg för automatiskt skrivande av text. Detta kan användas inom nyhetsrapportering, författande av skoluppgifter, e-postmeddelanden och mycket mer.
- Robotics: OpenAI arbetar med att utveckla AI-baserade robotar som kan utföra komplexa uppgifter och samarbeta med människor.
- Gaming: OpenAI har utvecklat AI-modeller som kan spela och vinna på spel som Dota 2 och Go. Detta kan användas för att utveckla mer realistiska spel och för att träna andra AI-modeller.
- Finansiell analys: OpenAI arbetar med att utveckla AI-modeller som kan utföra finansiell analys och fatta beslut på egen hand.
- Medicinsk diagnos: OpenAI forskar på att använda AI för att utföra automatisk diagnos av sjuk
- domar och skapa mer effektiva behandlingsplaner.
- Språköversättning: OpenAI arbetar med att utveckla AI-modeller som kan översätta mellan olika språk på ett mer naturligt sätt.
- Autonoma fordon: OpenAI arbetar med att utveckla AI-system som kan styra och navigera autonoma fordon, inklusive bilar och drönare.
- Prediktiv modellering: OpenAI arbetar med att utveckla AI-modeller som kan göra prognoser och fatta beslut baserat på historisk data och trendanalyser.
- Naturligt språkbehandling: OpenAI arbetar med att förbättra AI:s förmåga att förstå och interagera med mänskligt språk, vilket kan användas inom områden som chattbotar och röststyrning.
- Dessa är bara några av de områden som OpenAI fokuserar på, och det finns många fler potentiella tillämpningar för deras teknologi. OpenAI fortsätter att utforska nya möjligheter och samarbetar med företag och organisationer för att hjälpa till att förverkliga deras visioner.
