與TensorFlow共同進步 kika輸入法引擎不斷突破升級

作為享譽海外的人工智能公司，kika的使命一直是通過技術創(chuàng)新，以輸入法為切入場景，幫助人們更加自由有趣地表達心中所想，讓世界溝通變得更簡單。因此，不斷升級輸入法引擎，繼而變革世界溝通是kika一直所追逐的目標。而得益于谷歌將TensorFlow開源并不斷迭代，以及本身技術的鉆研及創(chuàng)新，近日，kika正式成為TensorFlow的contributor(貢獻者)，與TensorFlow共同進步。

從2016年開始，kika 技術團隊一直致力于 AI 技術在移動端落地，尤其是在 keyboard 輸入法引擎做了很多算法與工程上的探索工作。2017 年 5 月，kika 技術團隊基于 TensorFlow Mobile 研發(fā)了 kika AI Engine，將其應用于 kika 的全系輸入法產(chǎn)品中。2017 年 11 月，在Google 發(fā)布 TensorFlow Lite (TF Lite) 后，kika 技術團隊同樣進行了迅速跟進。

TensorFlow Lite 是針對移動和嵌入式設備的輕量級解決方案，支持移動設備上機器學習模型的低時延推理。它擁有全新的設計，具有如下三個重要功能：

輕量級(Lightweight)：支持機器學習模型的推理在較小二進制數(shù)下進行，能快速初始化/啟動;

跨平臺(Cross-platform)：可以在許多不同的平臺上運行，現(xiàn)在支持 Android 和 iOS;

快速(Fast)：針對移動設備進行了優(yōu)化，包括大大減少了模型加載時間、支持硬件加速。

kika輸入法作為一個重度使用的工具類 APP，在移動端做輕量化部署顯然非常重要。而對于kika輸入法引擎而言，最需具備的技術要求包括：快、準、全，需要在客戶端環(huán)境下，根據(jù)用戶輸入的上文內容以及當前鍵入的鍵碼，實時進行『預測』。預測的內容包括：單詞，詞組，emoji 等等一切可能通過輸入法發(fā)送的內容。這恰與TensorFlow Lite 的功能優(yōu)勢天然契合。

因此，在Google 發(fā)布 TensorFlow Lite (TF Lite) 后，kika技術團隊立即著手升級開發(fā)。在開發(fā)過程中，kika發(fā)現(xiàn)TF Lite 對于 RNN/LSTM 的支持程度稍顯不足，例如對于RNN的支持尚存在op支持不足的缺點。不過，kika團隊在經(jīng)歷相當?shù)难邪l(fā)投入后，已然可以盡量避免使用這些TF Lite不支持的 op，對于不得不使用的情況，也可以實現(xiàn)結合具體的業(yè)務邏輯，優(yōu)化設計，使得在移動端部署的二次開發(fā)的工作量盡可能的小。

2018 年 1 月，kika成功地開發(fā)了基于TF Lite全新一代的 kika AI Engine。在客戶端實現(xiàn)基于TF Lite模型的部署之后，kika分別測試了同一模型在 TF 完全版(TF Mobile)和TF Lite10, 000 次 Inference 的資源消耗情況，如下圖所示。主要的 Metrics 包括內存占用 (memory)，運行時間(speed)和靜態(tài)鏈接庫的大小 (image size)。

可以看到，各項 Metrics 都得到的大幅的優(yōu)化，這對于提升產(chǎn)品的整體性能與穩(wěn)定度都十分有利。

與此同時，kika也再一次進行了線上產(chǎn)品的更新，使得用戶擁有了更好的使用體驗。事實上，除了輸入法引擎之外，kika 技術團隊近年來也一直在致力于采用 AI 技術解決內容推薦，語音識別和自然語義理解方面等方面的諸多實際問題，在客戶端和服務端部署分別采用 TF Lite 和 TF Serving 這兩個基于 TensorFlow 的優(yōu)秀框架。

在 TensorFlow的加持下，kika輸入法引擎不斷突破升級，無疑將使得kika變革世界溝通的美好愿景加快實現(xiàn)。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。