µ¥ÀÌÅͺ긯½º(Databricks)´Â 21ÀÏ ¹ßÇ¥¸¦ ÅëÇØ, ¿£ºñµð¾Æ(NVIDIA)¿Í Çù·ÂÀ» È®´ëÇÏ°í ±â¼ú ÅëÇÕÀ» °ÈÇÑ´Ù°í ¹àÇû´Ù.
ÀÌ¿¡ µû¶ó µÎ ȸ»ç´Â µ¥ÀÌÅͺ긯½ºÀÇ µ¥ÀÌÅÍ ÀÎÅÚ¸®Àü½º Ç÷§Æû(Data Intelligence Platform)¿¡¼ µ¥ÀÌÅÍ ¹× AI ¿öÅ©·Îµå¸¦ ÃÖÀûÈÇÏ´Â µ¥ ¹ÚÂ÷¸¦ °¡ÇÒ °èȹÀÌ´Ù.
À̹ø Çù·ÂÀº ÃÖ±Ù ¿£ºñµð¾Æ°¡ µ¥ÀÌÅͺ긯½º ½Ã¸®Áî I ÅõÀÚ¿¡ Âü¿©ÇÑ °ÍÀÇ ¿¬Àå¼±À̱⵵ ÇÏ´Ù.
¾Ë¸® °íµå½Ã(Ali Ghodsi) µ¥ÀÌÅͺ긯½º °øµ¿Ã¢¸³ÀÚ °â CEO´Â “¿£ºñµð¾Æ´Â ºÐ¼® »ç¿ë »ç·Ê¿¡¼ AI¿¡ À̸£±â±îÁö µ¥ÀÌÅͺ긯½ºÀÇ ±âº» ¸ðµ¨ À̴ϼÅƼºê¸¦ ´Ù¼ö Áö¿øÇØ ¿Ô´Ù. Äõ¸® °¡¼Óȸ¦ À§ÇÑ »óÈ£ Çù·ÂÀ» ÅëÇØ ´õ ¸¹Àº ±â¾÷¿¡°Ô °¡Ä¡¸¦ ÀÔÁõÇÒ ¼ö ÀÖÀ» °ÍÀ¸·Î ±â´ëÇÑ´Ù”°í ¸»Çß´Ù.
Á¨½¼ Ȳ(Jensen Huang) ¿£ºñµð¾Æ ⸳ÀÚ °â CEO´Â “AI ½Ã´ë¿¡¼ ±â¾÷ÀÌ º¸À¯ÇÏ°í ÀÖ´Â µ¥ÀÌÅÍ´Â ÀÎÅÚ¸®Àü½º¸¦ µµÃâÇÏ´Â µ¥ ÇÊ¿äÇÑ ¸Å¿ì Áß¿äÇÑ ÀÚ»ê”À̶ó¸ç “¿£ºñµð¾Æ¿Í µ¥ÀÌÅͺ긯½º´Â È¿À²¼ºÀ» °³¼±ÇØ ´õ¿í ¿ì¼öÇÑ ÀλçÀÌÆ®¿Í °á°ú¸¦ ¾ò°íÀÚ ÇÏ´Â ±â¾÷À» À§ÇØ µ¥ÀÌÅÍ Ã³¸®¸¦ °¡¼ÓÈÇÏ°í, À̷νá AIÀÇ °³¹ß°ú ¹èÆ÷¸¦ Çâ»óÇÒ ¼ö ÀÖ´Ù”°í ¸»Çß´Ù.
¡ß¿£µåÅõ¿£µå AI ¼Ö·ç¼ÇÀ» À§ÇÑ GPU Áö¿ø °¡¼ÓÈ = Á¶Á÷Àº µ¥ÀÌÅÍ·Î ÈÆ·ÃµÇ°í ºñÁî´Ï½º¿Í µµ¸ÞÀο¡ ¸Â°Ô ¸ÂÃãÈµÈ »ý¼ºÇü AI ¼Ö·ç¼ÇÀ» ±¸Ãà ¹× Ä¿½ºÅ͸¶ÀÌ¡Çϱâ À§ÇØ µ¥ÀÌÅͺ긯½ºÀÇ µ¥ÀÌÅÍ ÀÎÅÚ¸®Àü½º Ç÷§ÆûÀ» ½Å¼ÓÇÏ°Ô µµÀÔÇÏ°í ÀÖ´Ù.
µ¥ÀÌÅͺ긯½º ¸ðÀÚÀÌÅ© AI¿Í ¿£ºñµð¾Æ´Â µ¥ÀÌÅͺ긯½ºÀÇ ¿£µåÅõ¿£µå Ç÷§Æû¿¡¼ÀÇ »ý¼ºÇü AI ¸ðµ¨ ±¸Ãà°ú ¹èÆ÷¸¦ Çâ»óÇϱâ À§ÇØ ¸ðµ¨ ÈÆ·Ã ¹× Ãß·Ð ºÐ¾ß¿¡¼ Çù·ÂÇÒ ¹æħÀÌ´Ù.
¾Æ¿ï·¯ µ¥ÀÌÅͺ긯½º´Â µ¥ÀÌÅÍ ¹× ¸ðµ¨ Àü¹Ý¿¡ ´ëÇÑ ¿Ïº®ÇÑ Á¦¾î¿Í °Å¹ö³Í½º´Â ¹°·Ð, »ý¼ºÇü AI ¼Ö·ç¼ÇÀ» ±¸Ãà, Å×½ºÆ® ¹× ¹èÆ÷Çϱâ À§ÇÑ Æ÷°ýÀûÀÎ Åø ¼¼Æ®¸¦ Á¦°øÇÑ´Ù.
µ¥ÀÌÅͺ긯½º ¸ðÀÚÀÌÅ© AI´Â »ý¼ºÇü AI ¸ðµ¨ ÈÆ·ÃÀ» À§ÇØ ´ëÇü ¾ð¾î ¸ðµ¨(LLM) °³¹ß¿¡ ÃÖÀûÈµÈ ¿£ºñµð¾Æ H100 ÅÙ¼ ÄÚ¾î GPU(NVIDIA H100 Tensor Core GPU)¸¦ »ç¿ëÇÑ´Ù.
ÀÌ·Î½á ¸ðÀÚÀÌÅ© AI´Â ¿£ºñµð¾Æ °¡¼Ó ÄÄÇ»ÆÃÀÇ ¼º´ÉÀ» È°¿ëÇÏ°í, °í°´À» À§ÇØ LLMÀ» Ä¿½ºÅ͸¶ÀÌ¡ÇÒ ¼ö ÀÖ´Â È¿À²ÀûÀ̸ç È®Àå °¡´ÉÇÑ Ç÷§ÆûÀ» Á¦°øÇÒ ¼ö ÀÖ°Ô µÈ´Ù.
ÇÑÆí, µ¥ÀÌÅͺ긯½º´Â ¸ðµ¨ ¹èÆ÷¸¦ À§ÇØ ½ºÅà Àü¹Ý¿¡¼ ¿£ºñµð¾Æ °¡¼Ó ÄÄÇ»Æà ¹× ¼ÒÇÁÆ®¿þ¾î¸¦ È°¿ëÇÑ´Ù.
µ¥ÀÌÅͺ긯½º ¸ðÀÚÀÌÅ© AI ¸ðµ¨ ¼ºù(Mosaic AI Model Serving)ÀÇ ÇÙ½É ±¸¼º ¿ä¼Ò´Â ÃÖ÷´Ü ¼º´ÉÀ» Á¦°øÇÏ°í ¼Ö·ç¼ÇÀÇ ºñ¿ë È¿À²¼º, È®À强 ¹× ¼º´ÉÀ» º¸ÀåÇÏ´Â ¿£ºñµð¾Æ ÅÙ¼RT-LLM(NVIDIA TensorRT-LLM) ¼ÒÇÁÆ®¿þ¾î´Ù. ¸ðÀÚÀÌÅ© AI´Â ÅÙ¼RT-LLMÀÇ Ãâ½Ã ÆÄÆ®³Ê·Î¼ ¿£ºñµð¾Æ ÆÀ°ú ±ä¹ÐÇÑ ±â¼ú Çù·ÂÀ» À̾î¿Ô´Ù.
¡ß¿£ºñµð¾Æ °¡¼Ó ÄÄÇ»ÆÃÀ» ÅëÇØ Äõ¸® ¼º´ÉÀ» Çâ»óÇÏ´Â ‘Æ÷Åæ(Photon)’ = µ¥ÀÌÅͺ긯½º´Â ÀÚ»çÀÇ º¤ÅÍÈµÈ Â÷¼¼´ë Äõ¸® ¿£Áø ‘Æ÷Åæ’¿¡¼ ¿£ºñµð¾Æ °¡¼Ó ÄÄÇ»Æÿ¡ ´ëÇÑ ±âº»ÀûÀÎ(native) Áö¿øÀ» Á¦°ø, ±â¾÷ÀÇ µ¥ÀÌÅÍ ¿þ¾îÇÏ¿ì¡ ¹× ºÐ¼® ¿öÅ©·ÎµåÀÇ ¼Óµµ¿Í È¿À²¼ºÀ» °³¼±ÇÑ´Ù´Â °èȹÀÌ´Ù.
‘Æ÷Åæ’Àº °¡°Ý ´ëºñ ¼º´É°ú ÃѼÒÀ¯ºñ¿ë(TCO)À» ÀÚ¶ûÇÏ´Â µ¥ÀÌÅͺ긯½ºÀÇ ¼¹ö¸®½º(serverless) µ¥ÀÌÅÍ ¿þ¾îÇϿ콺 ‘µ¥ÀÌÅͺ긯½º SQL(Databricks SQL)’À» ±¸µ¿ÇÏ°í ÀÖ´Ù.
µ¥ÀÌÅÍ Äõ¸® 󸮸¦ À§ÇØ GPU¸¦ »ç¿ëÇÏ´Â µ¥ÀÌÅͺ긯½º °í°´ÀÌ ´Ã¾î³ª´Â °¡¿îµ¥, ¾ç»çÀÇ Çù·ÂÀº ÀÌ·¯ÇÑ ¼ºÀåÀ» ´õ¿í °¡¼ÓÈÇÒ °ÍÀ¸·Î ±â´ëµÈ´Ù.
¡ßµ¥ÀÌÅͺ긯½ºÀÇ ¸Ó½Å·¯´× ¹× µö·¯´× Áö¿ø = µ¥ÀÌÅͺ긯½º¿¡¼ ¸Ó½Å·¯´×(ML)°ú µö·¯´×Àº Áß¿äÇÑ ¿öÅ©·Îµå´Ù.
µ¥ÀÌÅͺ긯½º ¸Ó½Å·¯´×Àº ¿£ºñµð¾Æ GPU¸¦ Æ÷ÇÔÇÏ´Â »çÀü ±¸ÃàµÈ µö·¯´× ÀÎÇÁ¶ó¸¦ Á¦°øÇϸç, ML¿ë µ¥ÀÌÅͺ긯½º ·±Å¸ÀÓ¿¡´Â µå¶óÀ̹ö¿Í ¶óÀ̺귯¸® µî »çÀü ±¸¼ºµÈ GPU Áö¿øÀÌ Æ÷ÇԵŠÀÖ´Ù.
»ç¿ëÀÚ´Â ÀÌ°°Àº ÅøÀ» ÅëÇØ ÀûÇÕÇÑ ¿£ºñµð¾Æ ÀÎÇÁ¶ó¸¦ ±â¹ÝÀ¸·Î ½Å¼ÓÇÏ°Ô ÀÛ¾÷À» ½ÃÀÛÇÒ ¼ö ÀÖÀ» »Ó¸¸ ¾Æ´Ï¶ó, »ç¿ëÀÚ °£ ÀÏ°üµÈ ȯ°æÀ» À¯ÁöÇÒ ¼ö ÀÖ´Ù. µ¥ÀÌÅͺ긯½º´Â 3´ë ÁÖ¿ä Ŭ¶ó¿ìµå¿¡¼ ¿£ºñµð¾Æ ÅÙ¼ ÄÚ¾î GPU¸¦ Áö¿øÇØ, ML ¿öÅ©·Îµå¸¦ À§ÇÑ °í¼º´É ´ÜÀÏ ³ëµå ¹× ºÐ»ê ÈÆ·ÃÀ» Áö¿øÇÑ´Ù.
ÇÑÆí, µ¥ÀÌÅͺ긯½º¿Í ¿£ºñµð¾Æ´Â µ¥ÀÌÅÍ ÀÎÅÚ¸®Àü½º Ç÷§ÆûÀÇ ¸ð¸àÅÒÀ» °ÈÇØ º¸´Ù ´Ù¾çÇÑ Á¶Á÷ÀÌ Ç°Áú, ¼Óµµ ¹× ¹Îø¼ºÀ» °®Ãá Â÷¼¼´ë µ¥ÀÌÅÍ ¹× AI ¾ÖÇø®ÄÉÀ̼ÇÀ» °³¹ßÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇØ ³ª°¥ °èȹÀÌ´Ù.
<±èµ¿±â ±âÀÚ>kdk@bikorea.net < ÀúÀÛ±ÇÀÚ © BI KOREA ¹«´ÜÀüÀç ¹× Àç¹èÆ÷±ÝÁö > |