Çѱ¹·¹µåÇÞ(´ëÇ¥ ±è°æ»ó)Àº 23ÀÏ º»»ç ¹ßÇ¥¸¦ Àοë, ¿£ÅÍÇÁ¶óÀÌÁî ¾ÖÇø®ÄÉÀ̼ÇÀ» À§ÇÑ ´ë±Ô¸ð¾ð¾î¸ðµ¨(LLM)ÀÇ °³¹ß, Å×½ºÆ®, ½ÇÇàÀ» À§ÇÑ »ý¼ºÇü AI ÆÄ¿îµ¥ÀÌ¼Ç ¸ðµ¨ Ç÷§Æû ‘·¹µåÇÞ ¿£ÅÍÇÁ¶óÀÌÁî ¸®´ª½º AI(Red Hat Enterprise Linux AI, ÀÌÇÏ RHEL AI)’ÀÇ 1.2 ¹öÀü Ãâ½Ã¸¦ ¹ßÇ¥Çß´Ù.
‘RHEL AI’´Â »ý¼ºÇü AI »ç¿ë »ç·Ê¿¡ ÃÖÀûÈµÈ Æ¯¼ö Á¦ÀÛ RHEL À̹ÌÁö¿¡ ¿ÀǼҽº ±×·¡´ÏÆ®(Granite) LLM°ú ÀνºÆ®·°Æ®·¦(InstructLab) ¸ðµ¨ Á¤·Ä µµ±¸¸¦ °áÇÕÇÑ´Ù.
2024³â 9¿ù óÀ½ Ãâ½ÃµÈ ‘RHEL AI 1.1’¸¦ ±â¹ÝÀ¸·Î ÇÑ À̹ø ¹öÀüÀº ¿£ÅÍÇÁ¶óÀÌÁî AIÀÇ ÁøÀÔ À庮À» ³·Ãß°í µµÀÔÀ» ÃËÁøÇØ °³¹ßÀÚ, AI ¿£Áö´Ï¾î ¹× µ¥ÀÌÅÍ °úÇÐÀÚÀÇ ¿ª·®À» °ÈÇÒ ¼ö ÀÖ°Ô µ½´Â´Ù.
‘RHEL AI 1.2’´Â Á¶Á÷ÀÌ ÀÚü ¹Î°¨ µ¥ÀÌÅ͸¦ »ç¿ëÇØ LLMÀ» º¸´Ù È¿À²ÀûÀ¸·Î ¹Ì¼¼ Á¶Á¤(fine tuning)ÇÏ°í ¹èÆ÷ÇØ ¿£ÅÍÇÁ¶óÀÌÁî ¿ëµµ¿¡ ´õ Àß ¸ÂÃâ ¼ö ÀÖµµ·Ï Áö¿øÇÑ´Ù.
ÀνºÆ®·°Æ®·¦ ¹× Æ÷°ýÀû ¼ÒÇÁÆ®¿þ¾î ½ºÅÿ¡ ±â¹ÝÇÑ ÀÌ°°Àº °³¼±Á¡ÀÌ »õ·Î Ãâ½ÃµÈ AMD ÀνºÆÃÆ®(AMD Instinct) °¡¼Ó±â¸¦ Æ÷ÇÔÇÑ ±¤¹üÀ§ÇÑ Çϵå¿þ¾î °¡¼Ó±â¸¦ Áö¿øÇÑ´Ù.
¡ß·¹³ë¹ö ¾ÅÅ©½Ã½ºÅÛ SR675 V3 ¼¹ö Áö¿ø = ¿£ºñµð¾Æ GPU°¡ žÀçµÈ ·¹³ë¹ö ¾ÅÅ©½Ã½ºÅÛ(Lenovo ThinkSystem) SR675 V3 ¼¹ö¿¡¼ RHEL AI 1.2¸¦ Áö¿øÇÑ´Ù.
¶ÇÇÑ »ç¿ëÀÚ´Â RHEL AIÀÇ °øÀå ÃâÇÏ ½Ã ±âº» žÀç ¿É¼ÇÀ» È°¿ëÇÒ ¼ö ÀÖ¾î ¹èÆ÷°¡ ´õ ºü¸£°í ½¬¿öÁø´Ù.
¡ßAMD ÀνºÆÃÆ® °¡¼Ó±â Áö¿ø(±â¼ú ÇÁ¸®ºä) = ¾ð¾î ¸ðµ¨¿¡´Â °·ÂÇÑ ÄÄÇ»Æà ¸®¼Ò½º°¡ ÇÊ¿äÇϸç, RHEL AI´Â µå¶óÀ̹ö, ¶óÀ̺귯¸® ¹× ·±Å¸ÀÓÀ» Æ÷ÇÔÇÑ Àüü AMD ROCm ¼ÒÇÁÆ®¿þ¾î ½ºÅðú ÇÔ²² AMD ÀνºÆÃÆ® °¡¼Ó±â¸¦ Áö¿øÇÑ´Ù.
RHEL AI 1.2·Î Á¶Á÷Àº ÈÆ·Ã ¹× Ã߷п¡ AMD ÀνºÆÃÆ® MI300x GPU¸¦, Ãß·Ð ÀÛ¾÷¿¡´Â AMD ÀνºÆÃÆ® MI210 GPU¸¦ È°¿ëÇÒ ¼ö ÀÖ´Ù.
¡ß¾ÖÀú ¹× GCP¿¡¼ÀÇ °¡¿ë¼º(±â¼ú ÇÁ¸®ºä) = ¾ÖÀú(Azure) ¹× ±¸±Û Ŭ¶ó¿ìµå(Google Cloud Platform, GCP)¿¡¼ RHEL AI¸¦ »ç¿ëÇÒ ¼ö ÀÖ´Ù.
À̸¦ ÅëÇØ »ç¿ëÀÚ´Â ·¹µåÇÞ¿¡¼ ´Ù¿î·ÎµåÇÑ RHEL AI¸¦ ¾ÖÀú ¹× GCP·Î °¡Á®¿Í RHEL AI ±â¹Ý GPU ÀνºÅϽº¸¦ »ý¼ºÇÒ ¼ö ÀÖ´Ù.
¡ßÈƷà üũÆ÷ÀÎÆ® ¹× Àç°³ = ÁÖ±âÀûÀΠüũÆ÷ÀÎÆ®·Î ¸ðµ¨ ¹Ì¼¼ Á¶Á¤ Áß ±ä Æ®·¹ÀÌ´× ½ÇÇàÀ» ÀÏÁ¤ÇÑ °£°ÝÀ¸·Î ÀúÀåÇÒ ¼ö ÀÖ´Ù.
ÀÌ ±â´ÉÀ» ÅëÇØ ÀνºÆ®·°Æ®·¦ »ç¿ëÀڴ óÀ½ºÎÅÍ ´Ù½Ã ½ÃÀÛÇÏÁö ¾Ê°í ¸¶Áö¸·À¸·Î ÀúÀåµÈ üũÆ÷ÀÎÆ®¿¡¼ ÈÆ·ÃÀ» Àç°³ÇÒ ¼ö ÀÖ¾î ½Ã°£°ú ÄÄÇ»Æà ¸®¼Ò½º¸¦ Àý¾àÇÒ ¼ö ÀÖ´Ù.
¡ßÇϵå¿þ¾î °¡¼Ó±â ÀÚµ¿ °¨Áö = ÀνºÆ®·´Æ®·¦ CLI(Command Line Interface)°¡ »ç¿ë ÁßÀÎ Çϵå¿þ¾î °¡¼Ó±â À¯ÇüÀ» ÀÚµ¿À¸·Î °¨ÁöÇÏ°í ±×¿¡ µû¶ó ÃÖÀûÀÇ ¼º´ÉÀ» À§ÇÑ ÀνºÆ®·°Æ®·¦ ÆÄÀÌÇÁ¶óÀÎÀ» ±¸¼ºÇÒ ¼ö ÀÖ¾î ¼öµ¿ ¼³Á¤ÀÌ ºÒÇÊ¿äÇÏ´Ù.
¡ßÆÄÀÌÅäÄ¡ FSDP¸¦ ÅëÇÑ Çâ»óµÈ Æ®·¹ÀÌ´×(±â¼ú ¹Ì¸®º¸±â) = ¾ÆÀÌ·¦ Æ®·¹ÀÎ(ilab train)Àº ÇÕ¼º µ¥ÀÌÅ͸¦ »ç¿ëÇÑ ¸ðµ¨ÀÇ ¸ÖƼ ÆäÀÌÁî Æ®·¹ÀÌ´×À» À§ÇØ ÆÄÀÌÅäÄ¡(PyTorch) FSDP(Fully Sharded Data Parallel)¸¦ ±âº»À¸·Î »ç¿ëÇÑ´Ù.
ÀÌ´Â ¸ðµ¨ÀÇ ÆĶó¹ÌÅÍ, ±×·¡µð¾ðÆ®(gradient) ¹× ¿ÉƼ¸¶ÀÌÀú(optimizer) »óŸ¦ µ¥ÀÌÅÍ º´·Ä ÀÛ¾÷ÀÚ(¿¹: GPU)¿¡ °ÉÃÄ »þµù, ÈÆ·Ã ½Ã°£À» ´ÜÃàÇÑ´Ù.
ÈÆ·Ã ½Ã°£Àº ¼±ÇüÀûÀ¸·Î ´ÜÃàµÅ ÇϳªÀÇ °¡¼Ó±â ÈƷÿ¡ X½Ã°£ÀÌ °É¸®´Â °æ¿ì, N°³ÀÇ °¡¼Ó±â¸¦ »ç¿ëÇϸé X/N½Ã°£À¸·Î ´ÜÃàÇÒ ¼ö ÀÖ´Ù.
ÀÌ´Â ‘RHEL AI 1.2’ÀÇ ½Å±Ô ±â´É Áß ÀϺÎÀ̸ç, RHEL AI 1.2´Â AI °³¹ßÀ» À§ÇÑ ´õ ¸¹Àº °³¼± »çÇ×°ú ¹ö±× ¼öÁ¤À» Æ÷ÇÔÇÑ´Ù.
<±èµ¿±â ±âÀÚ>kdk@bikorea.net < ÀúÀÛ±ÇÀÚ © BI KOREA ¹«´ÜÀüÀç ¹× Àç¹èÆ÷±ÝÁö > |