Бір нұсқалы, көп дерек өңдеу: SIMD технологиясы

Кіріспе

Параллель өңдеу түрі

Бірыңғай нұсқау, бірнеше дерек (SIMD) – Флинн таксономиясындағы параллель өңдеудің бір түрі. SIMD жабдықтың құрамына кіретін ішкі түрде де, нұсқаулар жиынтығы архитектурасы (ISA) арқылы тікелей қолжетімді болатын түрде де болуы мүмкін, бірақ оны ISA-мен шатастыруға болмайды. SIMD бірнеше өңдеу элементтері бар және бір уақытта бірнеше дерек нүктесінде бірдей операцияны орындайтын компьютерлерді сипаттайды. Мұндай машиналар дерек деңгейіндегі параллелизмді пайдаланады, бірақ қатарластырылмайды: бір мезгілде (параллель) есептеулер жүзеге асырылады, бірақ әрбір элемент кез келген уақытта бірдей нұсқауды орындайды (тек әртүрлі деректермен). SIMD әсіресе цифрлық кескіннің контрастын немесе цифрлық аудионың дыбыс деңгейін реттеу сияқты жиі кездесетін тапсырмалар үшін қолданылады. Көптеген қазіргі заманғы процессорлар (CPU) мультимедиа қолданудың өнімділігін арттыру үшін SIMD нұсқауларын қамтиды. SIMD Флинннің 1972 жылғы таксономиясында үш кіші категорияға бөлінеді, олардың бірі – SIMT. SIMT бағдарламалық немесе аппараттық жіптермен шатастырылмауы керек, олардың екеуі де тапсырма уақытын бөлісу (уақыт тілімі) болып табылады. SIMT – нақты бір мезгілде аппараттық деңгейде параллель орындалу. Қазіргі заманғы графикалық процессорлар (GPU) көбінесе кеңейтілген SIMD жүзеге асыру болып табылады және бір уақытта 128 немесе 256 биттік тармақталуға, жүктеуге және сақтауға қабілетті.

Тарих

SIMD нұсқауларын алғаш рет 1966 жылы аяқталған ILLIAC IV қолданды. SIMD 1970 жылдар басындағы CDC Star 100 және Texas Instruments ASC сияқты векторлық суперкомпьютерлердің негізі болды, олар бір нұсқау арқылы деректердің «векторы» бойынша жұмыс істей алды. Векторлық өңдеуді Крей 1970 және 1980 жылдары ерекше дамытты. Векторлық өңдеу архитектуралары қазір SIMD компьютерлерінен бөлек саналады: Дунканның таксономиясы оларды Флинн таксономиясына қоспайды, себебі Флинннің жұмысы (1966, 1972) Cray 1 (1977) құрылымынан бұрын жасалған. Қазіргі заманғы SIMD компьютерлерінің алғашқы кезеңі Thinking Machines CM 1 және CM 2 сияқты, үлкен параллель өңдеу стиліндегі суперкомпьютерлермен ерекшеленді. Бұл компьютерлерде көптеген, шектеулі мүмкіндіктерге ие процессорлар параллель жұмыс істеді. Мысалы, Thinking Machines CM 2 жүйесіндегі 65 536 бір биттік процессордың әрқайсысы бір уақытта бір нұсқауды орындап, 65 536 бит жұбын бір уақытта логикалық түрде біріктіруге мүмкіндік берді. Бұл үшін гиперкуб байланыс желісі немесе процессорға арналған жеке RAM пайдаланылып, операндар табылатын еді. Intel i860 XP сияқты, арзан скалярлы MIMD тәсілдері күштірек болғанда суперкомпьютерлер SIMD тәсілінен алыстады, соның салдарынан SIMD-ге қызығушылық төмендеді. Қазіргі SIMD процессорларының кезеңі суперкомпьютер нарығынан емес, десктоп компьютер нарығынан өркендеді. 1990 жылдары десктоп процессорлары нақты уақыт ойындары мен аудио/бейне өңдеуді қолдауға жеткілікті қуатқа ие болғандықтан, осы есептеу қуатының түріне сұраныс артты және микропроцессор өндірушілері сұранысты қанағаттандыру үшін SIMD-ге жүгінді. Hewlett Packard 1994 жылы MPEG декодилеуін үдету үшін PA RISC 1.1 десктоп компьютерлеріне MAX нұсқауларын енгізді. Sun Microsystems 1995 жылы UltraSPARC I микропроцессорында өзінің «VIS» нұсқаулар жиынтығының кеңейтулерінде SIMD бүтін сандық нұсқауларын енгізді. MIPS осыған ұқсас MDMX жүйесімен ілесіп қалды. Алғашқы кең таралған десктоп SIMD 1996 жылы Intel-дің x86 архитектурасына арналған MMX кеңейтулерімен пайда болды. Бұл Motorola PowerPC және IBM POWER жүйелерінде әлдеқайда қуатты AltiVec жүйесін енгізуге түрткі болды. Intel 1999 жылы жаңа SSE жүйесін ұсынды. Содан бері екі архитектураның SIMD нұсқаулар жиынтығына бірнеше кеңейтулер енгізілді. Intel AVX, AVX2 және AVX 512 кеңейтілген векторлық нұсқауларын әзірледі. AMD өзінің қазіргі өнімдерінде AVX, AVX2 және AVX 512 қолдайды. Бұл барлық әзірлемелер нақты уақыт графикасын қолдауға бағытталған, сондықтан екі, үш немесе төрт өлшемді өңдеуге бағытталған, әдетте вектор ұзындығы дерек түріне және архитектурасына байланысты екі мен он алты сөз аралығында болады. Жаңа SIMD архитектураларын ескілерден ажырату қажет болғанда, жаңа архитектуралар «қысқа векторлы» архитектуралар деп есептеледі, себебі бұрынғы SIMD және векторлық суперкомпьютерлердің вектор ұзындығы 64-тен 64 000-ға дейін болды. Қазіргі заманғы суперкомпьютерлер әдетте MIMD компьютерлерінің кластері болып табылады, олардың әрқайсысы (қысқа векторлы) SIMD нұсқауларын іске асырады.

The first use of SIMD instructions was in the ILLIAC IV, which was completed in 1966. SIMD was the basis for vector supercomputers of the early 1970s such as the CDC Star 100 and the Texas Instruments ASC, which could operate on a "vector" of data with a single instruction. Vector processing was especially popularized by Cray in the 1970s and 1980s. Vector processing architectures are now considered separate from SIMD computers: Duncan's Taxonomy includes them where Flynn's Taxonomy does not, due to Flynn's work (1966, 1972) pre dating the Cray 1 (1977). The first era of modern SIMD computers was characterized by massively parallel processing style supercomputers such as the Thinking Machines CM 1 and CM 2. These computers had many limited functionality processors that would work in parallel. For example, each of 65,536 single bit processors in a Thinking Machines CM 2 would execute the same instruction at the same time, allowing, for instance, to logically combine 65,536 pairs of bits at a time, using a hypercube connected network or processor dedicated RAM to find its operands. Supercomputing moved away from the SIMD approach when inexpensive scalar MIMD approaches based on commodity processors such as the Intel i860 XP became more powerful, and interest in SIMD waned. The current era of SIMD processors grew out of the desktop computer market rather than the supercomputer market. As desktop processors became powerful enough to support real time gaming and audio/video processing during the 1990s, demand grew for this particular type of computing power, and microprocessor vendors turned to SIMD to meet the demand. Hewlett Packard introduced MAX instructions into PA RISC 1.1 desktops in 1994 to accelerate MPEG decoding. Sun Microsystems introduced SIMD integer instructions in its "VIS" instruction set extensions in 1995, in its UltraSPARC I microprocessor. MIPS followed suit with their similar MDMX system. The first widely deployed desktop SIMD was with Intel's MMX extensions to the x86 architecture in 1996. This sparked the introduction of the much more powerful AltiVec system in the Motorola PowerPC and IBM's POWER systems. Intel responded in 1999 by introducing the all new SSE system. Since then, there have been several extensions to the SIMD instruction sets for both architectures. Advanced vector extensions AVX, AVX2 and AVX 512 are developed by Intel. AMD supports AVX, AVX2, and AVX 512 in their current products. All of these developments have been oriented toward support for real time graphics, and are therefore oriented toward processing in two, three, or four dimensions, usually with vector lengths of between two and sixteen words, depending on data type and architecture. When new SIMD architectures need to be distinguished from older ones, the newer architectures are then considered "short vector" architectures, as earlier SIMD and vector supercomputers had vector lengths from 64 to 64,000. A modern supercomputer is almost always a cluster of MIMD computers, each of which implements (short vector) SIMD instructions.

Артықшылықтар

SIMD-ді пайдаланатын қосымша, көптеген мультимедиалық қосымшаларда кең таралған, көптеген дерек нүктелеріне бірдей мән қосылатын (немесе алынып тасталатын) жағдайларға жатады. Мысалы, кескіннің жарықтығын өзгерту. Кескіннің әрбір пикселі қызыл (R), жасыл (G) және көк (B) түстерінің жарықтығын сипаттау үшін үш мәннен тұрады. Жарықтықты өзгерту үшін R, G және B мәндері жадтан оқылады, оларға бір мән қосылады (немесе алынып тасталады), содан кейін нәтижелер жадқа қайта жазылады. Аудио DSP-лер де дыбыс деңгейін реттеу үшін сол және оң каналдарды бір уақытта көбейтеді. SIMD процессоры бұл процесті екі жағынан жақсартады. Біріншіден, деректер блоктар түрінде қарастырылады, ал бірнеше мәнді бірден жүктеуге болады. "Осы пикселді ал, енді келесі пикселді ал" сияқты жеке нұсқаулардың орнына, SIMD процессоры "n пикселді ал" деген бір нұсқауды орындайды (мұнда n – әртүрлі конструкцияларға байланысты өзгеретін сан). Әртүрлі себептерге байланысты, бұл әр пикселді жеке-жеке алуға қарағанда әлдеқайда аз уақытты қажет етеді, дәстүрлі CPU конструкциясындағыдай. Екінші артықшылығы – нұсқау жүктелген барлық деректерге бір операцияда қолданылады. Яғни, егер SIMD жүйесі бір уақытта сегіз дерек нүктесін жүктесе, деректерге қолданылатын қосу операциясы сегіз мәнге де бірден қолданылады. Бұл параллелизм суперскалярлы процессордың қамтамасыз ететін параллелизмнен өзгеше; сегіз мән тіпті суперскалярлы емес процессорда да параллель өңделеді, ал суперскалярлы процессор бірнеше SIMD операциясын параллель түрде орындай алады.

Кемшіліктер

Барлық алгоритмдерді оңай векторлауға болмайды. Мысалы, кодты талдау сияқты ағымды басқаруға көп күш жұмсалатын тапсырма SIMD-ден оңай пайда көре алмайды; алайда, максималды кэш тиімділігіне жету үшін салыстырулар мен "топтық ағынды" векторлау теориялық тұрғыдан мүмкін, бірақ бұл техникаға көбірек аралық күй қажет болады. Ескерту: Баталық құбыр жүйелері (мысалы, GPU немесе бағдарламалық растерлеу құбырлары) SIMD ішкі мүмкіндіктерін пайдаланғанда кэшті басқаруда ең тиімді, бірақ олар SIMD мүмкіндіктеріне ғана тән емес. Кодтар тізбегі сияқты тізбектердегі тәуелділіктен аулақ болу үшін қосымша күрделіліктер туындауы мүмкін; ал векторлау үшін тәуелсіздік қажет. Үлкен регистрлік файлдар қуат тұтынуды және қажетті чип алаңын арттырады. Қазіргі уақытта алгоритмді SIMD нұсқауларымен іске асыру көбінесе адам еңбегін қажет етеді; көптеген компиляторлар, мысалы, әдеттегі C бағдарламасынан SIMD нұсқауларын жасамайды. Компиляторлардағы автоматты векторлау компьютерлік ғылымдағы белсенді зерттеу саласы болып табылады. (Векторлық өңдеумен салыстырыңыз.) SIMD нұсқаулар жиынтығымен бағдарламалау көптеген төменгі деңгейдегі қиындықтарды қамтиды. SIMD деректерді туралауға шектеулер қоюы мүмкін; белгілі бір архитектурамен таныс бағдарламашылар мұны күтпеуі мүмкін. Жағдайды нашарлататыны: туралау бір түзетуден немесе "үйлесімді" процессордан екіншісіне өзгеруі мүмкін. SIMD регистрлеріне деректерді жинау және оларды дұрыс мақсатты жерлерге тарату қиын (кейде алмастыру операцияларын қажет етеді) және тиімсіз болуы мүмкін. Кейбір SIMD нұсқаулар жиынтықтарында айналу немесе үш операндты қосу сияқты арнайы нұсқаулар жоқ. Нұсқаулар жиынтығы архитектураға тән: кейбір процессорларда SIMD нұсқаулары мүлдем жоқ, сондықтан бағдарламашылар олар үшін векторлық емес (немесе басқа векторлық) іске асыруларды ұсынуы керек. Әртүрлі архитектуралар әртүрлі регистр өлшемдерін (мысалы, 64, 128, 256 және 512 бит) және нұсқаулар жиынтығын ұсынады, яғни бағдарламашылар кез келген CPU-да оңтайлы жұмыс істеу үшін векторлық кодтың бірнеше іске асырылуын қамтамасыз етуі керек. Сонымен қатар, SIMD нұсқауларының мүмкін жиынтығы әр жаңа регистр өлшемімен өседі. Өкінішке орай, бұрынғы қолдау себептерімен ескі нұсқаулар тоқтатылмайды. Ертедегі MMX нұсқаулар жиынтығы жылжымалы нүктелі стекпен бірге регистрлік файлды бөлісті, бұл жылжымалы нүкте мен MMX кодын араластырғанда тиімсіздікке әкелді. Алайда, SSE2 бұл мәселені шешеді. 1 және 5-ші мәселелерді шешу үшін RISC V векторлық кеңейтуі басқа тәсілді қолданады: бағдарламашыға қосалқы регистр деңгейінің егжей-тегжейін көрсетудің орнына, нұсқаулар жиынтығы оларды осы нұсқаулар жиынтығымен барлық CPU-да бірдей интерфейстерді қолданатын бірнеше "векторлық регистрлер" ретінде абстракциялайды. Аппараттық құралдар барлық туралау мәселелерін және циклдарды "жолақтап бөлуді" басқарады. Әртүрлі векторлық өлшемдері бар машиналар бірдей кодты орындай алады. LLVM бұл векторлық типті "". Кодтың көлемін ұлғайту эквивалентті скалярлық немесе эквивалентті векторлық кодпен салыстырғанда жиі кездеседі, ал векторлық ISA-да шамамен немесе одан да үлкен тиімділікке (нұсқау бойынша орындалған жұмыс) қол жеткізуге болады. ARM-ның кеңейтілген векторлық кеңейтуі Флинн таксономиясында "ассоциативтік өңдеу" деп белгіленген басқа тәсілді қолданады, қазіргі уақытта көбінесе "Предкатталған" (маскаланған) SIMD ретінде танымал. Бұл тәсіл векторлық өңдеу сияқты ықшам емес, бірақ болжамды емес SIMD-ге қарағанда әлдеқайда жақсы. Толық салыстырмалы мысалдар Векторлық өңдеу бетінде келтірілген.

Not all algorithms can be vectorized easily. For example, a flow control heavy task like code parsing may not easily benefit from SIMD; however, it is theoretically possible to vectorize comparisons and "batch flow" to target maximal cache optimality, though this technique will require more intermediate state. Note: Batch pipeline systems (example: GPUs or software rasterization pipelines) are most advantageous for cache control when implemented with SIMD intrinsics, but they are not exclusive to SIMD features. Further complexity may be apparent to avoid dependence within series such as code strings; while independence is required for vectorization. Large register files which increases power consumption and required chip area. Currently, implementing an algorithm with SIMD instructions usually requires human labor; most compilers do not generate SIMD instructions from a typical C program, for instance. Automatic vectorization in compilers is an active area of computer science research. (Compare vector processing.) Programming with particular SIMD instruction sets can involve numerous low level challenges. SIMD may have restrictions on data alignment; programmers familiar with one particular architecture may not expect this. Worse: the alignment may change from one revision or "compatible" processor to another. Gathering data into SIMD registers and scattering it to the correct destination locations is tricky (sometimes requiring permute operations) and can be inefficient. Specific instructions like rotations or three operand addition are not available in some SIMD instruction sets. Instruction sets are architecture specific: some processors lack SIMD instructions entirely, so programmers must provide non vectorized implementations (or different vectorized implementations) for them. Different architectures provide different register sizes (e. g. 64, 128, 256 and 512 bits) and instruction sets, meaning that programmers must provide multiple implementations of vectorized code to operate optimally on any given CPU. In addition, the possible set of SIMD instructions grows with each new register size. Unfortunately, for legacy support reasons, the older versions cannot be retired. The early MMX instruction set shared a register file with the floating point stack, which caused inefficiencies when mixing floating point and MMX code. However, SSE2 corrects this. To remedy problems 1 and 5, RISC V's vector extension uses an alternative approach: instead of exposing the sub register level details to the programmer, the instruction set abstracts them out as a few "vector registers" that use the same interfaces across all CPUs with this instruction set. The hardware handles all alignment issues and "strip mining" of loops. Machines with different vector sizes would be able to run the same code. LLVM calls this vector type "". An order of magnitude increase in code size is not uncommon, when compared to equivalent scalar or equivalent vector code, and an order of magnitude or greater effectiveness (work done per instruction) is achievable with Vector ISAs. ARM's Scalable Vector Extension takes another approach, known in Flynn's Taxonomy as "Associative Processing", more commonly known today as "Predicated" (masked) SIMD. This approach is not as compact as Vector processing but is still far better than non predicated SIMD. Detailed comparative examples are given in the Vector processing page.

Хронологиясы

SIMD суперкомпьютерлерінің мысалдары (векторлық процессорларды қоспағанда)
Жыл Мысал
1974 ILLIAC IV
1974 ICL Distributed Array Processor (DAP)
1976 Burroughs Scientific Processor
1981 Martin Marietta компаниясының Геометриялық арифметикалық параллель процессоры (Lockheed Martin, Teranex және Silicon Optix компанияларында жалғастырылды)
1983 1991 Массивті параллель процессор (MPP), NASA/Goddard ғарыш орталығынан
1985 Қосылым машинасы, 1 және 2 модельдері (CM 1 және CM 2), Thinking Machines Corporation
1987 1996 MasPar MP 1 және MP 2
1991 Wavetracer компаниясының Zephyr DC
2001 Pyxsys, Inc. компаниясының Xplor

Жабдық

Шағын масштабты (64 немесе 128 бит) SIMD 1990-шы жылдардың басында жалпы мақсаттағы процессорларда кеңінен таралды және 1997 жылға дейін, содан кейін Alpha процессорлары үшін Motion Video Instructions (MVI) арқылы дамыды. SIMD нұсқауларын көптеген процессорларда кездестіруге болады, оның ішінде IBM-нің AltiVec және PowerPC үшін SPE, HP-нің PA RISC Multimedia Acceleration eXtensions (MAX), Intel-дің MMX, iwMMXt, SSE, SSE2, SSE3, SSSE3 және SSE4.x, AMD-нің 3DNow!, ARC-тің ARC Видео қосалқы жүйесі, SPARC-тің VIS және VIS2, Sun-ның MAJC, ARM-ның Neon технологиясы, MIPS-тің MDMX (MaDMaX) және MIPS 3D. IBM, Sony және Toshiba компаниялары бірлесіп әзірлеген Cell Processor процессорларының SPU жиынтығы SIMD-ге негізделген. Philips, қазір NXP, Xetal деп аталатын бірнеше SIMD процессорларын жасады. Xetal 320 16 биттік процессорлық элементтерге ие, олар көру тапсырмалары үшін арнайы жасалған. Intel компаниясының AVX 512 SIMD нұсқаулары бір мезгілде 512 бит деректерді өңдей алады.

Бағдарламалық жасақтама

SIMD нұсқаулары 3D графиканы өңдеу үшін кеңінен қолданылады, бірақ қазіргі заманғы SIMD енгізілген графикалық карталар осы міндетті CPU-дан иеленді. Кейбір жүйелерде векторлар ішіндегі элементтерді қайта жинақтайтын алмастыру функциялары бар, бұл оларды деректерді өңдеу және қысу үшін өте пайдалы етеді. Олар криптографияда да қолданылады. GPU-дағы жалпы мақсаттағы есептеулердің (GPGPU) тенденциясы болашақта SIMD-ді кеңінен қолдануға әкелуі мүмкін. SIMD жүйелерін жеке компьютерлік бағдарламалық құралдарға енгізу бастапқыда бірнеше мәселелерге байланысты баяу болды. Бірі – SIMD-дің алғашқы нұсқаулар жиынтығының көпшілігі қолданыстағы қозғалатын нүктелік тіркелімдерді қайта пайдаланудан жүйенің жалпы өнімділігін төмендетті. MMX және 3DNow! сияқты басқа жүйелер кең аудиторияға қызығушылық тудырмаған дерек түрлері үшін қолдау ұсынды және FPU және MMX тіркелімдерін пайдалану арасында ауысу үшін қымбат контекстік ауыстыру нұсқауларына ие болды. Компиляторлар көбінесе қолдау көрсетпеді, сондықтан бағдарламашылар құрастыру тілінде кодтауға жүгінуге мәжбүр болды. x86-да SIMD баяу басталды. AMD-нің 3DNow! және Intel-дің SSE енгізуі жағдайды біршама шатастырды, бірақ бүгінгі күні жүйе тұрақталған сияқты (AMD SSE-ді қабылдағаннан кейін) және жаңа компиляторлар SIMD-ге қабілетті бағдарламалық құралдарға әкелуі керек. Intel және AMD қазір SIMD нұсқауларын пайдаланатын оптимизацияланған математикалық кітапханаларды ұсынады, ал libSIMD, SIMDx86 және SLEEF сияқты ашық кодты баламалар пайда бола бастады (сондай-ақ libm қараңыз). Apple Computer компаниясы SIMD нарығына басқалардан кейінірек кірсе де, біршама сәттілікке жетті. AltiVec бай жүйені ұсынды және Motorola, IBM және GNU-дан күрделене түсетін компиляторларды пайдалану арқылы бағдарламалауға болады, сондықтан құрастыру тілінде бағдарламалау сирек қажет. Сонымен қатар, SIMD-ден пайда көретін көптеген жүйелерді Apple өзі ұсынды, мысалы iTunes және QuickTime. Алайда, 2006 жылы Apple компьютерлері Intel x86 процессорларына көшті. Apple API-лары мен әзірлеу құралдары (XCode) SSE2 және SSE3, сондай-ақ AltiVec-ті қолдау үшін өзгертілді. Apple компаниясы IBM және Freescale Semiconductor компанияларынан PowerPC чиптерін сатып алуда үлкен рөл атқарды. Apple өнімдерінде PowerPC процессорларын қолдануды тоқтатса да, Freescale және IBM-нің бірнеше PowerPC және Power ISA жобаларында AltiVec-ті одан әрі дамыту жалғасуда. Тіркелім ішіндегі SIMD немесе SWAR – SIMD нұсқауларын тікелей қолдамайтын аппараттық құралдардағы жалпы мақсаттағы тіркелімдерде SIMD-ді орындау үшін қолданылатын әдістер мен тәсілдердің жиынтығы. Бұл SIMD-ді тікелей қолдамайтын аппараттарда да белгілі бір алгоритмдердегі параллелизмді пайдалану үшін қолданылуы мүмкін.

SIMD instructions are widely used to process 3D graphics, although modern graphics cards with embedded SIMD have largely taken over this task from the CPU. Some systems also include permute functions that re pack elements inside vectors, making them particularly useful for data processing and compression. They are also used in cryptography. The trend of general purpose computing on GPUs (GPGPU) may lead to wider use of SIMD in the future. Adoption of SIMD systems in personal computer software was at first slow, due to a number of problems. One was that many of the early SIMD instruction sets tended to slow overall performance of the system due to the re use of existing floating point registers. Other systems, like MMX and 3DNow!, offered support for data types that were not interesting to a wide audience and had expensive context switching instructions to switch between using the FPU and MMX registers. Compilers also often lacked support, requiring programmers to resort to assembly language coding. SIMD on x86 had a slow start. The introduction of 3DNow! by AMD and SSE by Intel confused matters somewhat, but today the system seems to have settled down (after AMD adopted SSE) and newer compilers should result in more SIMD enabled software. Intel and AMD now both provide optimized math libraries that use SIMD instructions, and open source alternatives like libSIMD, SIMDx86 and SLEEF have started to appear (see also libm). Apple Computer had somewhat more success, even though they entered the SIMD market later than the rest. AltiVec offered a rich system and can be programmed using increasingly sophisticated compilers from Motorola, IBM and GNU, therefore assembly language programming is rarely needed. Additionally, many of the systems that would benefit from SIMD were supplied by Apple itself, for example iTunes and QuickTime. However, in 2006, Apple computers moved to Intel x86 processors. Apple's APIs and development tools (XCode) were modified to support SSE2 and SSE3 as well as AltiVec. Apple was the dominant purchaser of PowerPC chips from IBM and Freescale Semiconductor. Even though Apple has stopped using PowerPC processors in their products, further development of AltiVec is continued in several PowerPC and Power ISA designs from Freescale and IBM. SIMD within a register, or SWAR, is a range of techniques and tricks used for performing SIMD in general purpose registers on hardware that does not provide any direct support for SIMD instructions. This can be used to exploit parallelism in certain algorithms even on hardware that does not support SIMD directly.

Бағдарламашы интерфейсі

SIMD нұсқаулық жиынтығын жасаушылар векторлық кодты генерациялауға кепілдік беретін ішкі функциялар немесе ерекше дерек түрлері (операторларды жүктеу арқылы) бар C/C++ тілінің кеңейтімдерін жасауға жиі барады. Intel, AltiVec және ARM NEON өз процессорларына бағытталған компиляторлармен кеңінен қолданылатын кеңейтімдерді ұсынады. (Күрделі операциялар векторлық математика кітапханаларының жұмысы.) GNU C компиляторы SIMD дерек түрлерін анықтау мүмкіндігін ұсыну арқылы осы кеңейтімдерді кез келген платформада қолдануға болатын әмбебап интерфейске айналдырып, бір қадам алға жылжытады. LLVM Clang компиляторы да осы мүмкіндікті жүзеге асырады, IR-де анықталған ұқсас интерфейспен. Rust-тің crate-і (және эксперименталды нұсқасы) осы интерфейсті пайдаланады, сондай-ақ Swift 2.0+ та. C++-та GCC кеңейтімдеріне ұқсас жұмыс істейтін эксперименталды интерфейс бар. LLVM libcxx оны қолдайтын сияқты. GCC және libstdc++ үшін GCC кеңейтімдеріне негізделген қосымша кітапхана қол жетімді. Microsoft RyuJIT арқылы SIMD-ді .NET-ке енгізді. NuGet-те қол жетімді пакет SIMD дерек түрлерін жүзеге асырады. Java-да OpenJDK 17-дегі инкубатор модулінде SIMD нұсқаулары үшін жаңа ұсынылған API бар. Сондай-ақ, қолдау көрсетілмейтін процессорларда қарапайым циклдарға ауысудың қауіпсіз механизмі бар. SIMD дерек типін берудің орнына, компиляторларға деректердің тәуелділігінің болмауы туралы белгілі бір шарттармен кейбір циклдарды автоматты түрде векторлауға кеңес беруге болады. Бұл SIMD айнымалыларын тікелей басқарудай икемді емес, бірақ пайдалануға оңайырақ. OpenMP 4.0+ кеңес береді. Бұл OpenMP интерфейсі Cilk, GCC және көптеген басқа стандарт емес кеңейтімдердің кең жиынтығын алмастырды.

SIMD-нің бірнеше нұсқасын жасау

Тұтынушылық бағдарламалық жасақтама әдетте бірнеше буынды қамтитын процессорлардың кең ауқымында жұмыс істеуі күтіледі, бұл бағдарламашының бағдарламаның есептеу өнімділігін арттыру үшін жаңа SIMD нұсқауларын пайдалану мүмкіндігін шектеуі мүмкін. Шешім – SIMD технологиясын ескі немесе жаңа пайдаланатын бір кодтың бірнеше нұсқасын қосу және орындалу кезінде (динамикалық жіберу) пайдаланушының процессорына ең жақсы сәйкес келетін нұсқаны таңдау. Екі негізгі тәсіл бар:
Функциялық көп нұсқалылық (FMV): бағдарламадағы немесе кітапханадағы кіші бағдарлама көптеген нұсқаулар жиынтығының кеңейтімдері үшін дубликатталып, құрастырылады, ал бағдарлама орындалу кезінде қайсысын пайдалану керектігін анықтайды. Кітапханалық көп нұсқалылық (LMV): барлық бағдарламалау кітапханасы көптеген нұсқаулар жиынтығының кеңейтімдері үшін дубликатталады, ал операциялық жүйе немесе бағдарлама орындалу кезінде қайсысын жүктеу керектігін шешеді. FMV, ассемблер тілінде қолмен кодталған, glibc және libjpeg turbo сияқты өнімділікке аса маңызды кітапханаларда кеңінен қолданылады. Intel C++ компиляторы, GCC 6 нұсқасынан бастап GNU компиляторлар жинағы және Clang 7 нұсқасынан бастап Clang функцияның дубликатталуын және таңдалуын автоматтандырып, қарапайым тәсілге мүмкіндік береді. GCC және Clang функцияларды «клондау» үшін кодта нақты белгілерді талап етеді, ал ICC мұны автоматты түрде жасайды (командалық жол опциясы арқылы). Rust бағдарламалау тілі де FMV-ді қолдайды. Құрылым GCC және Clang-қа ұқсас, себебі код қандай нұсқаулар жиынтығын құрастыру керектігін анықтайды, бірақ клондау инлайнинг арқылы қолмен жасалады. FMV-ні пайдалану GCC және Clang-те кодты өзгертуді қажет етеді, сондықтан жеткізушілер көбінесе кітапханалық көп нұсқалылықты пайдаланады: бұл тек компилятор параметрлерін өзгертуді қажет ететіндіктен оңайрақ. Glibc LMV-ді қолдайды және бұл мүмкіндік Intel қолдауымен Clear Linux жобасы тарапынан қабылданды.

SIMD желіде

2013 жылы Джон Маккачан Dart бағдарламалау тілі үшін SIMD нұсқаулар жиынтығына жоғары өнімді интерфейс жасағанын хабарлады, бұл SIMD мүмкіндіктерін веб-бағдарламаларға алғаш рет әкелді. Интерфейс екі типтен тұрады: Float32x4, 4 бір дәлдікті қалқыма нүктелік мән. Int32x4, 4 32 биттік бүтін сан. Бұл типтердің мысалдары өзгертілмейді және оңтайландырылған кодта SIMD тіркелгіштерімен тікелей байланыстырылады. Dart-та берілген операциялар көбінесе ешқандай қосымша шығынсыз бір нұсқауға жинақталады. Бұл C және C++ ішкі мүмкіндіктеріне ұқсас. 4x4 матрицаны көбейту, 3D нүктесін түрлендіру және Мандельброт жиынын визуализациялау бойынша сынақтар Dart-та жазылған скалярлық кодпен салыстырғанда шамамен 400% жылдамдыққа ие екенін көрсетті. Маккачанның Dart-тағы жұмысы, қазір SIMD.js деп аталады, ECMAScript тарапынан қабылданды және Intel IDF 2013 іс-шарасында Маккачанның V8 және SpiderMonkey үшін жасаған спецификациясын іске асырып жатқанын жариялады. Дегенмен, 2017 жылға қарай SIMD.js ECMAScript стандартты кезегінен алынып тасталды, себебі WebAssembly-де ұқсас интерфейсті жасауға басымдық берілді. 2020 жылдың тамызына қарай WebAssembly интерфейсі толыққанды аяқталған жоқ, бірақ оның портативті 128 биттік SIMD мүмкіндігі көптеген жүйелерде қолданысқа енді. Emscripten, Mozilla-ның C/C++-ті JavaScript-ке аударатын компиляторы, кеңейтулермен SIMD ішкі немесе GCC стиліндегі векторлық кодты пайдаланатын C++ бағдарламаларын JavaScript-тің SIMD API-сына аударуға мүмкіндік береді, нәтижесінде скалярлық кодқа теңдей жылдамдыққа қол жеткізіледі. Сондай-ақ ол WebAssembly 128 бит SIMD ұсынысын қолдайды (қазір осы бағытқа көбірек назар аударылып жатыр).

Коммерциялық қолдану

SIMD-ті ғана өңдейтін процессорлар үшін тұрақты коммерциялық қолданыс табу әдетте қиындық тудырды. Біршама сәттілікке жеткендердің бірі Lockheed Martin компаниясымен әзірленген және олардың еншілес компаниясы Teranex арқылы коммерциялық секторға енгізілген GAPP болды. GAPP-тің соңғы нұсқалары әртүрлі бейне стандарттары мен кадр жылдамдықтарын (мысалы, NTSC-ден/PAL-ға, NTSC-ден/HDTV форматтарына және т.б.) түрлендіру сияқты нақты уақыт бейне өңдеу саласындағы қуатты құралға айналды, сондай-ақ араласуды жою, бейнедегі шуды азайту, бейімделмелі бейне қысу және бейне сапасын жақсарту мүмкіндіктерін ұсынады. SIMD-дің кең таралған қолданысы бейне ойындарда кездеседі: 1998 жылдан бері дерлік барлық заманауи бейне ойын консольдары өз архитектурасында SIMD процессорларын қолданады. PlayStation 2 ерекшелігі – оның векторлық есептеу блогы автономды DSP ретінде, жеке нұсқаулар жиынтығын орындай отырып, немесе қарапайым CPU нұсқауларымен басқарылатын копроцессор ретінде жұмыс істей алатындығы болды. 3D графикалық қосымшалар SIMD өңдеуге өте ыңғайлы, себебі олар 4 өлшемді векторлармен операцияларға көп көңіл бөледі. Microsoft-тың Direct3D 9.0 енді өзінің математикалық операцияларын процессордың ерекшеліктеріне сәйкес орындайды, соның ішінде SIMD мүмкіндіктерін қолданады. Векторлық өңдеуді пайдаланған келесі процессор – IBM, Toshiba және Sony компанияларының бірлескен әзірлемесі Playstation 3-те қолданылатын Cell процессоры. Ол бірнеше SIMD процессорларын (әрқайсысы дербес локальді жадқа ие және жалпы мақсаттағы CPU арқылы басқарылатын NUMA архитектурасы) пайдаланады және 3D және бейне өңдеу қосымшалары үшін қажетті үлкен деректер жиынтығымен жұмыс істеуге бағытталған. Ол дәстүрлі ISA-дан SIMD-ге негізделгендіктен ерекшеленеді, бөлек скалярлық тіркегіштері жоқ. Ziilabs медиа плеерлер және ұялы телефондар сияқты мобильді құрылғыларда қолдануға арналған SIMD типті процессорды жасады. ClearSpeed Technology, Ltd. және Stream Processors, Inc. компаниялары ірі ауқымды коммерциялық SIMD процессорларын ұсынады. ClearSpeed CSX600 (2004) 96 ядродан тұрады, әрқайсысы екі қос нақтылықтағы қозғалатын нүктелік есептеу блогымен жабдықталған, ал CSX700 (2008) 192 ядроға ие. Stream Processors компаниясын компьютерлік архитектор Билл Дэлли басқарады. Олардың Storm 1 процессоры (2007) MIPS CPU арқылы басқарылатын 80 SIMD ядросын қамтиды.

It has generally proven difficult to find sustainable commercial applications for SIMD only processors. One that has had some measure of success is the GAPP, which was developed by Lockheed Martin and taken to the commercial sector by their spin off Teranex. The GAPP's recent incarnations have become a powerful tool in real time video processing applications like conversion between various video standards and frame rates (NTSC to/from PAL, NTSC to/from HDTV formats, etc. ), deinterlacing, image noise reduction, adaptive video compression, and image enhancement. A more ubiquitous application for SIMD is found in video games: nearly every modern video game console since 1998 has incorporated a SIMD processor somewhere in its architecture. The PlayStation 2 was unusual in that one of its vector float units could function as an autonomous DSP executing its own instruction stream, or as a coprocessor driven by ordinary CPU instructions. 3D graphics applications tend to lend themselves well to SIMD processing as they rely heavily on operations with 4 dimensional vectors. Microsoft's Direct3D 9.0 now chooses at runtime processor specific implementations of its own math operations, including the use of SIMD capable instructions. A later processor that used vector processing is the Cell Processor used in the Playstation 3, which was developed by IBM in cooperation with Toshiba and Sony. It uses a number of SIMD processors (a NUMA architecture, each with independent local store and controlled by a general purpose CPU) and is geared towards the huge datasets required by 3D and video processing applications. It differs from traditional ISAs by being SIMD from the ground up with no separate scalar registers. Ziilabs produced an SIMD type processor for use on mobile devices, such as media players and mobile phones. Larger scale commercial SIMD processors are available from ClearSpeed Technology, Ltd. and Stream Processors, Inc. ClearSpeed's CSX600 (2004) has 96 cores each with two double precision floating point units while the CSX700 (2008) has 192. Stream Processors is headed by computer architect Bill Dally. Their Storm 1 processor (2007) contains 80 SIMD cores controlled by a MIPS CPU.