നിർമ്മിത ബുദ്ധിയുടെ (AI) ലോകത്ത് രോ ദിവസവും പുതിയ പുതിയ സാങ്കേതികവിദ്യകൾ അവതരിപ്പിക്കപ്പെടുന്നുണ്ട്. എന്നാൽ, ചിലപ്പോൾ ഈ സാങ്കേതികവിദ്യകൾ ദുരുപയോഗം ചെയ്യപ്പെടുമ്പോൾ ഉണ്ടാകുന്ന അപകടങ്ങൾ വളരെ ഗുരുതരമാകാം. അത്തരമൊരു സംഭവമാണ് ഇപ്പോൾ ഗൂഗിൾ എർത്തിൽ (Google Earth) നിന്നും ഉണ്ടായിരിക്കുന്നത്. ഗൂഗിൾ എർത്തിൽ നിർമ്മിത ബുദ്ധി ഉപയോഗിച്ച് ദൃശ്യങ്ങൾ മാറ്റാൻ അനുവദിച്ച 'നാനോ ബനാന 2' (Nano Banana 2) എന്ന പുതിയ ഫീച്ചർ ഗൂഗിൾ പിൻവലിച്ചു. ഉപയോക്താക്കൾ ഗാസയിലെ ബോംബ് സ്ഫോടനം പോലുള്ള യാഥാർഥ്യമെന്ന് തോന്നിപ്പിക്കുന്ന വ്യാജ ദൃശ്യങ്ങൾ നിർമ്മിച്ചതോടെ, തെറ്റായ വിവരങ്ങൾ പ്രചരിക്കുന്നത് തടയാനാണ് ഈ നടപടി. അവതരിപ്പിച്ച് മണിക്കൂറുകൾക്കകം ഗൂഗിൾ എർത്തിന്റെ പുതിയ ീച്ചർ പിൻവലിച്ച് ടെക്ക് ഭീമനായ ഗൂഗിൾ.

നാനോ ബനാന 2: എന്തായിരുന്നു ഈ ഫീച്ചർ?

വ്യാഴാഴ്ചയാണ് ഗൂഗിൾ എർത്തിൽ 'നാനോ ബനാന 2' എന്ന നിർമിത ബുദ്ധി സംവിധാനം അവതരിപ്പിച്ചത്. ഉപയോക്താക്കൾക്ക് ഉപഗ്രഹ ചിത്രങ്ങളിൽ മാറ്റങ്ങൾ വരുത്താനും പുതിയ ഘടകങ്ങൾ ചേർക്കാനും സാധിക്കുന്ന തരത്തിലായിരുന്നു ഈ സൗകര്യം. ലോകത്തെ പുതിയ രീതിയിൽ സങ്കൽപ്പിക്കാനും പഴയ കാല ദൃശ്യങ്ങൾ പുനഃസൃഷ്ടിക്കാനും ഈ ഫീച്ചർ സഹായിക്കുമെന്നായിരുന്നു ഗൂഗിളിന്റെ വിശദീകരണം. എന്നാൽ ഫീച്ചർ ലഭ്യമായതിന് പിന്നാലെ നിരവധി പേർ ഇത് ഉപയോഗിച്ച് വ്യാജവും ആശയക്കുഴപ്പം സൃഷ്ടിക്കാൻ സാധ്യതയുള്ളതുമായ ചിത്രങ്ങൾ നിർമ്മിച്ചു. ഉപയോക്താക്കൾ സൃഷ്ടിച്ച യാഥാർഥ്യമെന്ന് തോന്നിപ്പിക്കുന്ന വ്യാജ ദൃശ്യങ്ങൾ ഇന്റർനെറ്റിൽ വ്യാപകമായി പ്രചരിച്ചതിനെ തുടർന്നാണ് ഗൂഗിൾ ഈ കടുത്ത നടപടി സ്വീകരിച്ചത്.

മുന്നറിയിപ്പ്: "ഗൂഗിൾ എർത്ത് കഴിഞ്ഞ 20 വർഷമായി ലോകം ആശ്രയിക്കുന്ന ഭൂമിശാസ്ത്ര വിവരങ്ങളുടെ പ്രധാന ഉറവിടമാണ്. ഇപ്പോൾ അതിൽ വ്യാജ ദൃശ്യങ്ങൾ സൃഷ്ടിക്കാനുള്ള സൗകര്യം ചേർന്നത് വലിയ ആശങ്കാജനകമാണ്." - ഹെൻക് വാൻ എസ്, AI ഗവേഷകൻ

ഗാസയിൽ ബോംബ് കുഴിയും ഇറാനിൽ ആണവ നിലയവും

AI ഗവേഷകനായ ഹെൻക് വാൻ എസ് (Henk van Ess), ഈ ഫീച്ചർ ഉപയോഗിച്ച് ഇറാനിൽ ഒരു ആണവ നിലയവും ഗാസയിലെ ഒരു ആശുപത്രിക്ക് സമീപം ബോംബ് പതിച്ചതുപോലുള്ള ദൃശ്യവും സൃഷ്ടിച്ചതായി അറിയിച്ചു. ഇത്തരം ചിത്രങ്ങൾ യഥാർഥമാണെന്ന് തെറ്റിദ്ധരിച്ചാൽ സാമൂഹിക മാധ്യമങ്ങളിൽ തെറ്റായ വിവരങ്ങൾ അതിവേഗം പ്രചരിക്കാൻ സാധ്യതയുണ്ടെന്ന് അദ്ദേഹം മുന്നറിയിപ്പ് നൽകി. അമേരിക്ക-മെക്സിക്കോ അതിർത്തിയിൽ അഭയാർഥികളുടെ തിരക്ക് കാണിക്കുന്ന വ്യാജ ദൃശ്യവും അദ്ദേഹം പുറത്തുവിട്ടു. ഗൂഗിൾ എർത്ത് ഗവേഷകർക്കും ഓപ്പൺ സോഴ്സ് ഡാറ്റകൾ ശേഖരിക്കുന്ന ഗവേഷണ വിദഗ്ധർക്കും പ്രധാനപ്പെട്ട ഒരു ടൂളാണ്. നഗര വികസനം, പരിസ്ഥിതി മാറ്റങ്ങൾ തുടങ്ങിയവ വർഷങ്ങളിലെ ഉപഗ്രഹ ചിത്രങ്ങൾ ഉപയോഗിച്ച് പഠിക്കാൻ ഇത് സഹായിക്കുന്നു. അത്തരം ഒരു ഗുരുതരമായ ഉപകരണത്തിൽ വ്യാജ ദൃശ്യങ്ങൾ സൃഷ്ടിക്കാൻ സാധിക്കുന്നത് വലിയ പ്രശ്നമാണ്.

9/11 ആക്രമണത്തിന് സമാനമായ വ്യാജ ചിത്രങ്ങളും പുറത്ത്

ഈ ഫീച്ചർ ഉപയോഗിച്ച് ചിലർ ന്യൂയോർക്കിലെ വേൾഡ് ്രേഡ് സെന്റർ ആക്രമണമായ 9/11 സംഭവത്തിന് സമാനമായ വ്യാജ ചിത്രങ്ങളും നിർമ്മിച്ചു. 2001 സെപ്റ്റംബർ 11-ന് അമേരിക്കയിൽ നടന്ന ഭീകരാക്രമണം ലോകചരിത്രത്തിലെ തന്നെ ഏറ്റവും ഗുരുതരമായ സംഭവങ്ങളിലൊന്നാണ്. അത്തരമൊരു സംഭവത്തിന്റെ വ്യാജ ദൃശ്യങ്ങൾ സൃഷ്ടിക്കാൻ സാധിക്കുന്നത് എത്രമാത്രം അപകടകരമാണെന്ന് ഊഹിക്കാവുന്നതാണ്. ഇത്തരം വ്യാജ ചിത്രങ്ങൾ സോഷ്യൽ മീഡിയയിൽ പ്രചരിച്ചാൽ, അത് ജനങ്ങളിൽ ഭീതി പടർത്താനും, രാജ്യങ്ങൾ തമ്മിലുള്ള ബന്ധത്തിൽ പ്രശ്നങ്ങൾ ഉണ്ടാക്കാനും,甚至 യുദ്ധത്തിന് വരെ കാരണമാകാനും സാധ്യതയുണ്ട്. ഡിജിറ്റൽ യുഗത്തിൽ വിവരങ്ങളുടെ കൃത്യതയും വിശ്വാസ്യതയും എത്രമാത്രം പ്രധാനമാണെന്ന് ഈ സംഭവം വ്യക്തമാക്കുന്നു.

ഗൂഗിളിന്റെ പ്രതികരണവും നടപടികളും

വ്യാജ വിവരങ്ങളുടെ വ്യാപനം തടയാൻ കൂടുതൽ ശക്തമായ സുരക്ഷാ നിയന്ത്രണങ്ങൾ നടപ്പാക്കുന്നതുവരെ ഫീച്ചർ പിൻവലിക്കുകയാണെന്ന് ഗൂഗിൾ അറിയിച്ചു. "ലോകത്തെക്കുറിച്ചുള്ള വിശ്വസനീയമായ കാഴ്ചയ്ക്കായി ആളുകൾ ഗൂഗിൾ എർത്തിനെ ആശ്രയിക്കുന്നു. ഈ സൗകര്യം പ്രയോജനകരമായ രീതിയിൽ ഉപയോഗിക്കുന്നവരുണ്ടെങ്കിലും, ഞങ്ങളുടെ നയങ്ങൾക്ക് വിരുദ്ധമായി തോന്നുന്ന നിർമിത ചിത്രങ്ങൾ പങ്കുവയ്ക്കുന്നതും ശ്രദ്ധയിൽപ്പെട്ടു," എന്ന് ഗൂഗിൾ പ്രസ്താവനയിൽ വ്യക്തമാക്കി. മണിക്കൂറുകൾക്കുള്ളിൽ തന്നെ തീരുമാനം എടുത്തത് ഗൂഗിളിന്റെ ഗുരുതരമായ ഉത്തരവാദിത്തബോധത്തെയാണ് കാണിക്കുന്നത്. എന്നാൽ, ഇത്തരം ീച്ചറുകൾ ഭാവിയിൽ വീണ്ടും അവതരിപ്പിക്കുമോ എന്ന കാര്യത്തിൽ വ്യക്തതയില്ല.

സിന്ത് ഐഡി സംവിധാനത്തിന്റെ പരിമിതികൾ

എഐ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ചിത്രങ്ങൾ തിരിച്ചറിയാൻ 'സിന്ത് ഐഡി' (C2PA/SynthID) സംവിധാനം ഉപയോഗിക്കാമെന്ന് ഗൂഗിൾ നേരത്തെ അറിയിച്ചിരുന്നു. എന്നാൽ ചില സാഹചര്യങ്ങളിൽ 'നാനോ ബനാന' ഉപയോഗിച്ച് സൃഷ്ടിച്ച ചിത്രങ്ങൾ നിർമിത ബുദ്ധി സൃഷ്ടികളാണെന്ന് തിരിച്ചറിയുന്നതിൽ ഈ സംവിധാനത്തിനും പിഴവുകൾ സംഭവിച്ചതായി റിപ്പോർട്ടുകളുണ്ട്. വ്യാജ ദൃശ്യങ്ങൾ എളുപ്പത്തിൽ സൃഷ്ടിക്കാൻ കഴിയുന്ന കാലത്ത് നിർമിത ബുദ്ധി ഉപകരണങ്ങളുടെ വിശ്വാസ്യതയും സുരക്ഷയും ഉറപ്പാക്കുന്നത് സാങ്കേതിക കമ്പനികൾ നേരിടുന്ന വലിയ വെല്ലുവിളിയായി മാറുകയാണ് എന്ന് ഈ പുതിയ സംഭവം തെളിയിക്കുന്നു. AI സാങ്കേതികവിദ്യയുടെ വളർച്ചയ്ക്കൊപ്പം, അതിന്റെ ദുരുപയോഗം തടയാനുള്ള സംവിധാനങ്ങളും ഒരുപോലെ വികസിക്കേണ്ടതുണ്ട്.

ഡിജിറ്റൽ വിവരങ്ങളുടെ വിശ്വാസ്യത: ഒരു വലിയ വെല്ലുവിളി

സംഭവം നമ്മെ ചിന്തിപ്പിക്കുന്ന ഒരു പ്രധാന കാര്യം, ഡിജിറ്റൽ യുഗത്തിൽ നാം കാണുന്ന ഓരോ ചിത്രവും വീഡിയോയും വിശ്വസിക്കാൻ കഴിയുമോ എന്നതാണ്. Deepfake സാങ്കേതികവിദ്യയും മറ്റ് AI ടൂളുകളും ഉപയോഗിച്ച് ഏത് തരം വ്യാജ ദൃശ്യങ്ങളും സൃഷ്ടിക്കാൻ ഇന്ന് സാധിക്കും. ഇത് പത്രപ്രവർത്തനത്തിനും, നിയമപരമായ തെളിവുകൾക്കും, ഗവേഷണത്തിനും വലിയ വെല്ലുവിളി ഉയർത്തുന്നു. ഗൂഗിൾ എർത്ത് പോലുള്ള വിശ്വസനീയമായ പ്ലാറ്റ്ഫോമുകളിൽ പോലും ഇത്തരം സംഭവങ്ങൾ നടക്കുന്നത്, നാം എത്രമാത്രം ജാഗ്രത പാലിക്കണമെന്ന് ഓർമ്മിപ്പിക്കുന്നു. ഓരോ ഉപയോക്താവും വിവരങ്ങൾ പങ്കുവയ്ക്കുന്നതിന് മുൻപ് അവയുടെ കൃത്യത പരിശോധിക്കേണ്ടത് അത്യാവശ്യമാണ്.

ഉപസംഹാരം

ഗൂഗിൾ എർത്തിന്റെ 'നാനോ ബനാന 2' ഫീച്ചർ പിൻവലിച്ച സംഭവം, നിർമ്മിത ബുദ്ധിയുടെ ശക്തിയും അതിന്റെ അപകടസാധ്യതകളും ഒരേസമയം വെളിവാക്കുന്നു. സാങ്കേതികവിദ്യയുടെ പുരോഗതി നമുക്ക് നിരവധി സാധ്യതകൾ നൽകുമ്പോൾ തന്നെ, അതിന്റെ ദുരുപയോഗം തടയാൻ കർശനമായ നിയന്ത്രണങ്ങളും ആവശ്യമാണ്. ഗൂഗിളിന്റെ തീരുമാനം മറ്റ് െക്ക് കമ്പനികൾക്കും ഒരു മാതൃകയാകണം. ഭാവിയിൽ AI സാങ്കേതികവിദ്യ വികസിക്കുമ്പോൾ, അതിന്റെ സുരക്ഷയും വിശ്വാസ്യതയും ഉറപ്പാക്കാനുള്ള സംവിധാനങ്ങളും ഒരുപോലെ ശക്തമാക്കേണ്ടതുണ്ട്. ഡിജിറ്റൽ ലോകത്ത് വിവരങ്ങളുടെ കൃത്യതയും സത്യസന്ധതയും സംരക്ഷിക്കേണ്ടത് ഓരോരുത്തരുടെയും ഉത്തരവാദിത്തമാണ്.

Story Summary:- Google swiftly removed its new "Nano Banana 2" AI feature from Google Earth after users generated realistic fake images of sensitive locations like Gaza and Iran. This rapid rollback highlights the growing challenge tech companies face in preventing the spread of AI-generated misinformation on trusted platforms.