Apple විසින් එහි AI iPhone හි Cloud තුල ධාවනය කරනවා වෙනුවට කෙලින්ම එහි hardware තුල ධාවනය කිරීමට සූදානම් වෙලා තිබෙනවා.
Apple හි AI පර්යේෂකයන් පවසා තිබුනේ ඔවුන් flash memory technique එකක් මගින් සීමිත මතක ධාරිතාවක් සහිත iPhone හා අනෙකුත් උපාංග තුල Large language model (LLMS) යෙදවීමේ දියුණුවක් ලබාගත් බවයි.
සාමාන්‍යයෙන් ChatGPT හා Claude යන chatbots ඇදහිය නොහැකි තරම් දත්ත වලින් යුක්ත වනවා සේම ක්‍රියාත්මක කිරිමට විශාල මතක ධාරිතාවක් අවශ්‍ය වනවා.
මෙය සීමිත මතක ධාරිතාවකින් යුතු Apple device සදහා අභියෝගයක් වූ නමුත් Apple හි පර්යේෂකයන් මෙයට පිලියමක් ලෙස Flash memory ය භාවිත කිරීමේ නව තාක්ෂණයක් සකස් කර තිබෙනවා.
LLM in a Flash ලෙස නම් කර තිබු වාර්තාවෙන් දැක්වෙන්නේ LLM ධාවනය කිරීම සදහා mobile device තුල RAM එකට වඩා flash memoryය භාවිතා කිරීම යෝග්‍ය බවයි.
එලෙසම data transfer අවම කිරීම හා flash මතකය වැඩි කිරීම යන ආකාර දෙක මගින් ඔවුන් එහි සීමාවන් මගහැරීමට කටයුතු කර තිබෙනවා.
1. Windowing– මෙය recycle ක්‍රමයට සමාන ක්‍රමයක්. සෑම වෙලාවකම අලුතන් ඩේටා load කිරීම වෙනුවට AI model එක මගින් දැනට ගබඩා කර ඇති දත්ත භාවිතා කරනු ලබනවා.
මෙමගින් නිරන්තර මතක ලබාගැනිමේ අවශ්‍යතාවය අඩු කරන අතර ක්‍රියාවලිය වේගවත් කරනු ලබනවා.
2.Row-Column Bundling- මෙයට උදාහරණයක් ලෙස පොතක් එකින් එක වචනය කියවීම වෙනුවට පිටු ගණන් කියවීම දැක්විය හැකියි. දත්ත Flash මතකය තුල කාර්‍යක්ෂම ලෙස කාණ්ඩ වශයෙන් ගබඩා කිරීම මගින් වඩාත් වේගයෙන් දත්ත read කල හැකි අතර එය AI හි අවබෝධ කරගැනීමේ හා language generate කිරීමේ හැකියාව වේගවත් කරනු ලබනවා.
මෙම උපක්‍රම දෙක මගින් AI model එකට Apple device එකෙහි පවතින මතකයට වඩා දෙගුණයක ප්‍රමාණයෙන් ක්‍රියාකල හැකියි.
Apple හි මෙම පියවර මගින් ඉදිරියෙදි iPhone සදහා වැඩිදියුණු කල Siri හි හැකියාවන්,ඡායාරූප හා AR අත්දැකීම්,real time language translation ලබාගත හැකි වනු ඇති. එලෙසම මෙමගින් සංකීර්ණ AI assistant හා Chatbots උපාංගය මත ක්‍රියාත්මක කිරීමට පහසුකම් සපයනු ලබනවා.
එලෙසම Apple විසින් Ajax නමින් ඔවුන්ගේම AI model එකක් නිර්මාණය කරමින් සිටින අතර parameters බිලියන 200 ක් මත ක්‍රියාත්මක වන මෙය භාෂා අවබෝධකරගැනීමේ හා generate කිරීමේ ඉහල මට්ටමේ සංකීර්ණතාවක් හා හැකියාවක් ලබාදෙනු ලබනවා.
එලෙසම වාර්තා අනුව Apple විසින් iPhone හා iPad තුල AI විශේෂාංගයක් 2024 අගබාගයේදී පමණ ( iOS18) ලබාදීමට නියමිත බවයි.
source : MacRumors
