SCWS 中文分詞

kiang

專案網址： https://github.com/hightman/scws/
官方網站： http://www.xunsearch.com/scws/

SCWS 是 Simple Chinese Word Segmentation 的首字母縮寫（即：簡易中文分詞系統）。

這是一套基於詞頻詞典的機械式中文分詞引擎，它能將一整段的中文文本基本正確地切分成詞。 詞是中文的最小語素單位，但在書寫時並不像英語會在詞之間用空格分開， 所以如何準確並快速分詞一直是中文分詞的攻關難點。

SCWS 採用純 C 語言開發，不依賴任何外部庫函數，可直接使用動態鏈接庫嵌入應用程序， 支持的中文編碼包括 GBK、UTF-8 等。此外還提供了 PHP 擴展模塊， 可在 PHP 中快速而方便地使用分詞功能。

分詞算法上並無太多創新成分，採用的是自己採集的詞頻詞典，並輔以一定的專有名稱，人名，地名， 數字年代等規則識別來達到基本分詞，經小範圍測試準確率在 90% ~ 95% 之間， 基本上能滿足一些小型搜索引擎、關鍵字提取等場合運用。首次雛形版本發佈於 2005 年底。

SCWS 由 hightman 開發， 並以 BSD 許可協議開源發佈，源碼託管在 github。

---

應該會找時間試試看效果

原始討論： http://twpug.net/x/modules/newbb/viewtopic.php?topic_id=7619

kiang

原始專案的說明不是很清楚，後來透過英文說明裝起來了：
http://www.stepwise.hk/blog/install-scws-and-its-php-extension-module/

Ubuntu 環境下剛安裝完執行時會出現 "error while loading shared libraries" 的錯誤（不過因為有來回裝了幾次，不確定是不是手滑造成），所以我在 /etc/ld.so.conf.d/ 加了一個 scws.conf 放入 /usr/local/lib 後執行 sudo ldconfig 。

放入 php.ini 的內容像這樣：

extension=scws.so

scws.default.charset = utf8
scws.default.fpath = /usr/local/scws/etc

目前測試了一下，詞庫好像還不是相當完整，但已經可以很快把文字都切出來

kiang

另外有個結巴中文斷詞 - https://github.com/fukuball/jieba-php

也許把 C++ 版本轉成 extension 會有效率些 https://github.com/yanyiwu/cppjieba

簡報： https://speakerdeck.com/fukuball/jieba-jie-ba-zhong-wen-duan-ci