ചാറ്റ്ജിപിടി-യിൽ ലോഗിൻ ചെയ്ത ഇമെയിലുകൾക്ക് സ്വകാര്യത ഭീഷണി; മുന്നറിയിപ്പുമായി ഗവേഷക സംഘം

ചാറ്റ്ജിപിടിയിൽ ലോഗിൻ ചെയ്ത ഇമെയിലുകൾ സ്വകാര്യത ഭീഷണി നേരിടുന്നതായി കണ്ടെത്തി ഇൻഡ്യാന യൂണിവേഴ്‌സിറ്റിയിലെ ഗവേഷക സംഘം. യൂണിവേഴ്‌സിറ്റിയിലെ പിഎച്ച്‌ഡി വിദ്യാർഥിയായ റൂയി ഷുവിന്റെ നേതൃത്വത്തിലുള്ള പഠനത്തിലായിരുന്നു ഞെട്ടിക്കുന്ന കണ്ടെത്തൽ. ഓപൺഎ.ഐ-യുടെ ചാറ്റ്ജിപിടിക്ക് ശക്തിപകരുന്ന ഭാഷാ മോഡലായ GPT-3.5 ടർബോയുമായി ബന്ധപ്പെട്ടുള്ള സ്വകാര്യത ഭീഷണിയാണ് അവർ കണ്ടെത്തിയത്. എ.ഐ-യിൽ നിന്ന് ലഭിച്ച ഇമെയിൽ വിലാസങ്ങൾ ഉപയോഗിച്ച് ന്യൂയോർക്ക് ടൈംസിലെ പ്രമുഖരുൾപ്പെടെയുള്ളവരെ ബന്ധപ്പെടാൻ കഴിഞ്ഞ മാസം ഷു ഈ മോഡൽ ഉപയോഗിച്ചതായി അന്വേഷണത്തിൽ കണ്ടെത്തി.

ഗൂഗിളും, ഓപൺഎ.ഐയും അടക്കം എ.ഐ രംഗത്ത് സജീവമായ കമ്പനികൾ, വ്യക്തിഗത വിവരങ്ങള്‍ ചോരുന്നത് തടയുന്നതിനായി വിവിധ സുരക്ഷാ മാര്‍ഗങ്ങളാണ് തങ്ങളുടെ എഐ മോഡലുകളില്‍ ഉപയോഗിക്കുന്നത്. എന്നാൽ, അവ മറികടക്കാനുള്ള വഴിയാണ് ഗവേഷകര്‍ കണ്ടെത്തിയത്.

ജിപിടി-3.5 ടര്‍ബോയുടെ വ്യക്തിവിവരങ്ങള്‍ ഓര്‍ത്തെടുക്കാനുള്ള കഴിവാണ് ഗവേഷകര്‍ ഇതിനായി പ്രയോജനപ്പെടുത്തിയത്. അതിന്റെ സ്വകാര്യത സംരക്ഷണ മാർഗ്ഗങ്ങളെ മറികടന്നായിരുന്നു ഇ-മെയിൽ വിലാസങ്ങൾ നേടിയെടുത്തത്. തിരഞ്ഞ 80 ശതമാനം ന്യൂയോര്‍ക്ക് ടൈംസ് ജീവനക്കാരുടെയും ഇമെയിലുകള്‍ കൃത്യമായി തന്നെ എ.ഐ നൽകുകയായിരുന്നു. ചാറ്റ് ജിപിടി പോലുള്ള എഐ ടൂളുകളിൽ വ്യക്തി വിവരങ്ങള്‍ സുരക്ഷിതമല്ലെന്നാണ് ഈ സംഭവം തെളിയിക്കുന്നത്.

ജിപിടി 3.5 ടര്‍ബോ, ജിപിടി 4 തുടങ്ങിയ ലാംഗ്വേജ് മോഡലുകളെ തുടര്‍ച്ചയായി പുതിയ വിവരങ്ങളില്‍ നിന്ന് പഠിക്കുന്നതിനായാണ് ഓപ്പണ്‍ എഐ രൂപകല്‍പന ചെയ്തിരിക്കുന്നത്. പ്രത്യേക വിഷയങ്ങളില്‍ കൃത്യമായ അറിവ് നല്‍കുന്നതിനായുള്ള മോഡലിന്റെ ഫൈന്‍ ട്യൂണിങ് ഇന്റർഫേസ് മോഡലിന്റെ പ്രതിരോധ സംവിധാനങ്ങളെ കബളിപ്പിക്കാന്‍ ഗവേഷകര്‍ ഉപയോഗപ്പെടുത്തി. സാധാരണ ഇന്റർഫേസ് വഴി നിരസിക്കുന്ന അഭ്യർത്ഥനകൾ ഈ രീതി ഉപയോഗിച്ച് അംഗീകരിച്ചു.