[[207730]]

微軟開源了MMLSpark，用于Apache Spark的的深度學(xué)習(xí)庫。MMLSpark可以與微軟認(rèn)知工具包和OpenCV完美整合。

微軟發(fā)現(xiàn)，雖然SparkML可以建立可擴(kuò)展的機(jī)器學(xué)習(xí)平臺，絕大多數(shù)開發(fā)者的精力都耗在了調(diào)用底層API上。MMLSpark旨在簡化PySpark中的重復(fù)性工作。

以UCI的成人收入普查數(shù)據(jù)集舉例，使用其他項目預(yù)測收入：

如果直接使用SparkML，每一列都需要單獨(dú)處理，整理為正確的數(shù)據(jù)類型;在MMLSpark中只需要兩行代碼：

model = mmlspark.TrainClassifier(model=LogisticRegression(), labelCol=” income”).fit(trainData) 
 
predictions = model.transform(testData)  

深度神經(jīng)網(wǎng)絡(luò)(DNN)在圖像識別和語音識別等領(lǐng)域不遜于人類，但是DNN模型的訓(xùn)練需要專業(yè)人員方可進(jìn)行，與SparkML的整合也十分不易。MMLSpark提供了方便的Python API，可以方便地訓(xùn)練DNN算法。MMLSpark可以方便地使用現(xiàn)有模型進(jìn)行分類任務(wù)、在分布式GPU節(jié)點(diǎn)上進(jìn)行訓(xùn)練、以及使用OpenCV建立可擴(kuò)展的圖像處理管線。

以下3行代碼可以從微軟認(rèn)知工具集中初始化一個DNN模型，從圖像中抽取特征：

cntkModel = CNTKModel().setInputCol(“images”).setOutputCol(“features”).setModelLocation(resnetModel).setOutputNode(“z.x”) 
 
featurizedImages = cntkModel.transform(imagesWithLabels).select([‘labels’,’features’]) 
 
model = TrainClassifier(model=LogisticRegression(),labelCol=”labels”).fit(featurizedImages)  

MMLSpark已經(jīng)發(fā)布到Docker Hub上，使用下面的命令即可在單機(jī)部署：

docker run -it -p 8888:8888 -e ACCEPT_EULA=yes microsoft/mmlspark 

MMLSpark使用MIT協(xié)議授權(quán)。