开发应用 - 阿Tim日志 - 专业的php开发者.开发团队的带队人

分页： 21/29

16 17 18 19 20 21 22 23 24 25

[ 显示模式：摘要 | 列表 ]

Feb 6

中文搜索引擎技术揭密：中文分词

bkkkd , 15:45 , 开发应用 , 评论(0) , 引用(0) , 阅读(3680)

信息的飞速增长，使搜索引擎成为人们查找信息的首选工具，Google、百度、中国搜索等大型搜索引擎一直是人们讨论的话题。随着搜索市场价值的不断增加，越来越多的公司开发出自己的搜索引擎，阿里巴巴的商机搜索、8848的购物搜索等也陆续面世，自然，搜索引擎技术也成为技术人员关注的热点。

搜索引擎技术的研究，国外比中国要早近十年，从最早的Archie，到后来的Excite，以及altvista、overture、google等搜索引擎面世，搜索引擎发展至今，已经有十几年的历史，而国内开始研究搜索引擎是在上世纪末本世纪初。在许多领域，都是国外的产品和技术一统天下，特别是当某种技术在国外研究多年而国内才开始的情况下。例如操作系统、字处理软件、浏览器等等，但搜索引擎却是个例外。虽然在国外搜索引擎技术早就开始研究，但在国内还是陆续涌现出优秀的搜索引擎，像百度（http://www.baidu.com）、中搜（http://www.zhongsou.com）等。目前在中文搜索引擎领域，国内的搜索引擎已经和国外的搜索引擎效果上相差不远。之所以能形成这样的局面，有一个重要的原因就在于中文和英文两种语言自身的书写方式不同，这其中对于计算机涉及的技术就是中文分词。

什么是中文分词

众所周知，英文是以词为单位的，词和词之间是靠空格隔开，而中文是以字为单位，句子中所有的字连起来才能描述一个意思。例如，英文句子I am a student，用中文则为：“我是一个学生”。计算机可以很简单通过空格知道student是一个单词，但是不能很容易明白“学”、“生”两个字合起来才表示一个词。把中文的汉字序列切分成有意义的词，就是中文分词，有些人也称为切词。我是一个学生，分词的结果是：我是一个学生。

中文分词和搜索引擎

中文分词到底对搜索引擎有多大影响？对于搜索引擎来说，最重要的并不是找到所有结果，因为在上百亿的网页中找到所有结果没有太多的意义，没有人能看得完，最重要的是把最相关的结果排在最前面，这也称为相关度排序。中文分词的准确与否，常常直接影响到对搜索结果的相关度排序。笔者最近替朋友找一些关于日我本和服的资料，在搜索引擎上输入“和服”，得到的结果就发现了很多问题。下面就以这个例子来说明分词对搜索结果的影响，在现有三个中文搜索引擎上做测试，测试方法是直接在Google（http://www.google.com）、百度（http://www.baidu.com）、中搜（http://www.zhongsou.com）上以“和服”为关键词进行搜索：

在Google上输入“和服”搜索所有中文简体网页，总共结果507,000条，前20条结果中有14条与和服一点关系都没有。在第一页就有以下错误：

“通信信息报：瑞星以技术和服务开拓网络安全市场”

“使用纯HTML的通用数据管理和服务- 开发者- ZDNet ...”

“陈慧琳《心口不一》化妆和服装自己包办”

“::外交部：中国境外领事保护和服务指南(2003年版) ...”

“产品和服务”

等等。第一页只有三篇是真正在讲“和服”的结果。

在百度上输入“和服”搜索网页，总共结果为287,000条，前20条结果中有6条与和服一点关系都没有。在第一页有以下错误：

“福建省晋江市恒和服装有限公司系独资企业”

“关于商品和服务实行明码标价的规定”

“青岛东和服装设备”

在中搜上输入“和服”搜索网页，总共结果为26,917条，前20条结果都是与和服相关的网页。

这次搜索引擎结果中的错误，就是由于分词的不准确所造成的。通过笔者的了解，Google的中文分词技术采用的是美国一家名叫Basis Technology（http://www.basistech.com）的公司提供的中文分词技术，百度使用的是自己公司开发的分词技术，中搜使用的是国内海量科技（http://www.hylanda.com）提供的分词技术。由此可见，中文分词的准确度，对搜索引擎结果相关性和准确性有相当大的关系。

中文分词技术

中文分词技术属于自然语言处理技术范畴，对于一句话，人可以通过自己的知识来明白哪些是词，哪些不是词，但如何让计算机也能理解？其处理过程就是分词算法。

现有的分词算法可分为三大类：基于字符串匹配的分词方法、基于理解的分词方法和基于统计的分词方法。

1、基于字符串匹配的分词方法

这种方法又叫做机械分词方法，它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配，若在词典中找到某个字符串，则匹配成功（识别出一个词）。按照扫描方向的不同，串匹配分词方法可以分为正向匹配和逆向匹配；按照不同长度优先匹配的情况，可以分为最大（最长）匹配和最小（最短）匹配；按照是否与词性标注过程相结合，又可以分为单纯分词方法和分词与标注相结合的一体化方法。常用的几种机械分词方法如下：

1）正向最大匹配法（由左到右的方向）；

2）逆向最大匹配法（由右到左的方向）；

3）最少切分（使每一句中切出的词数最小）。

还可以将上述各种方法相互组合，例如，可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。由于汉语单字成词的特点，正向最小匹配和逆向最小匹配一般很少使用。一般说来，逆向匹配的切分精度略高于正向匹配，遇到的歧义现象也较少。统计结果表明，单纯使用正向最大匹配的错误率为1/169，单纯使用逆向最大匹配的错误率为1/245。但这种精度还远远不能满足实际的需要。实际使用的分词系统，都是把机械分词作为一种初分手段，还需通过利用各种其它的语言信息来进一步提高切分的准确率。

一种方法是改进扫描方式，称为特征扫描或标志切分，优先在待分析字符串中识别和切分出一些带有明显特征的词，以这些词作为断点，可将原字符串分为较小的串再来进机械分词，从而减少匹配的错误率。另一种方法是将分词和词类标注结合起来，利用丰富的词类信息对分词决策提供帮助，并且在标注过程中又反过来对分词结果进行检验、调整，从而极大地提高切分的准确率。

对于机械分词方法，可以建立一个一般的模型，在这方面有专业的学术论文，这里不做详细论述。

2、基于理解的分词方法

这种分词方法是通过让计算机模拟人对句子的理解，达到识别词的效果。其基本思想就是在分词的同时进行句法、语义分析，利用句法信息和语义信息来处理歧义现象。它通常包括三个部分：分词子系统、句法语义子系统、总控部分。在总控部分的协调下，分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断，即它模拟了人对句子的理解过程。这种分词方法需要使用大量的语言知识和信息。由于汉语语言知识的笼统、复杂性，难以将各种语言信息组织成机器可直接读取的形式，因此目前基于理解的分词系统还处在试验阶段。

3、基于统计的分词方法

从形式上看，词是稳定的字的组合，因此在上下文中，相邻的字同时出现的次数越多，就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。可以对语料中相邻共现的各个字的组合的频度进行统计，计算它们的互现信息。定义两个字的互现信息，计算两个汉字X、Y的相邻共现概率。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度高于某一个阈值时，便可认为此字组可能构成了一个词。这种方法只需对语料中的字组频度进行统计，不需要切分词典，因而又叫做无词典分词法或统计取词方法。但这种方法也有一定的局限性，会经常抽出一些共现频度高、但并不是词的常用字组，例如“这一”、“之一”、“有的”、“我的”、“许多的”等，并且对常用词的识别精度差，时空开销大。实际应用的统计分词系统都要使用一部基本的分词词典（常用词词典）进行串匹配分词，同时使用统计方法识别一些新的词，即将串频统计和串匹配结合起来，既发挥匹配分词切分速度快、效率高的特点，又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。

到底哪种分词算法的准确度更高，目前并无定论。对于任何一个成熟的分词系统来说，不可能单独依靠某一种算法来实现，都需要综合不同的算法。笔者了解，海量科技的分词算法就采用“复方分词法”，所谓复方，相当于用中药中的复方概念，即用不同的药才综合起来去医治疾病，同样，对于中文词的识别，需要多种算法来处理不同的问题。

分词中的难题

有了成熟的分词算法，是否就能容易的解决中文分词的问题呢？事实远非如此。中文是一种十分复杂的语言，让计算机理解中文语言更是困难。在中文分词过程中，有两大难题一直没有完全突破。

1、歧义识别

歧义是指同样的一句话，可能有两种或者更多的切分方法。例如：表面的，因为“表面”和“面的”都是词，那么这个短语就可以分成“表面的”和“表面的”。这种称为交叉歧义。像这种交叉歧义十分常见，前面举的“和服”的例子，其实就是因为交叉歧义引起的错误。“化妆和服装”可以分成“化妆和服装”或者“化妆和服装”。由于没有人的知识去理解，计算机很难知道到底哪个方案正确。

交叉歧义相对组合歧义来说是还算比较容易处理，组合歧义就必需根据整个句子来判断了。例如，在句子“这个门把手坏了”中，“把手”是个词，但在句子“请把手拿开”中，“把手”就不是一个词；在句子“将军任命了一名中将”中，“中将”是个词，但在句子“产量三年中将增长两倍”中，“中将”就不再是词。这些词计算机又如何去识别?

如果交叉歧义和组合歧义计算机都能解决的话，在歧义中还有一个难题，是真歧义。真歧义意思是给出一句话，由人去判断也不知道哪个应该是词，哪个应该不是词。例如：“乒乓球拍卖完了”，可以切分成“乒乓球拍卖完了”、也可切分成“乒乓球拍卖完了”，如果没有上下文其他的句子，恐怕谁也不知道“拍卖”在这里算不算一个词。

2、新词识别

新词，专业术语称为未登录词。也就是那些在字典中都没有收录过，但又确实能称为词的那些词。最典型的是人名，人可以很容易理解句子“王军虎去广州了”中，“王军虎”是个词，因为是一个人的名字，但要是让计算机去识别就困难了。如果把“王军虎”做为一个词收录到字典中去，全世界有那么多名字，而且每时每刻都有新增的人名，收录这些人名本身就是一项巨大的工程。即使这项工作可以完成，还是会存在问题，例如：在句子“王军虎头虎脑的”中，“王军虎”还能不能算词？

新词中除了人名以外，还有机构名、地名、产品名、商标名、简称、省略语等都是很难处理的问题，而且这些又正好是人们经常使用的词，因此对于搜索引擎来说，分词系统中的新词识别十分重要。目前新词识别准确率已经成为评价一个分词系统好坏的重要标志之一。

中文分词的应用

目前在自然语言处理技术中，中文处理技术比西文处理技术要落后很大一段距离，许多西文的处理方法中文不能直接采用，就是因为中文必需有分词这道工序。中文分词是其他中文信息处理的基础，搜索引擎只是中文分词的一个应用。其他的比如机器翻译（MT）、语音合成、自动分类、自动摘要、自动校对等等，都需要用到分词。因为中文需要分词，可能会影响一些研究，但同时也为一些企业带来机会，因为国外的计算机处理技术要想进入中国市场，首先也是要解决中文分词问题。在中文研究方面，相比外国人来说，中国人有十分明显的优势。

分词准确性对搜索引擎来说十分重要，但如果分词速度太慢，即使准确性再高，对于搜索引擎来说也是不可用的，因为搜索引擎需要处理数以亿计的网页，如果分词耗用的时间过长，会严重影响搜索引擎内容更新的速度。因此对于搜索引擎来说，分词的准确性和速度，二者都需要达到很高的要求。目前研究中文分词的大多是科研院校，清华、北大、中科院、北京语言学院、东北大学、IBM研究院、微软中国研究院等都有自己的研究队伍，而真正专业研究中文分词的商业公司除了海量科技以外，几乎没有了。科研院校研究的技术，大部分不能很快产品化，而一个专业公司的力量毕竟有限，看来中文分词技术要想更好的服务于更多的产品，还有很长一段路。

Feb 5

PHP读取某站点的链接的函数

bkkkd , 11:09 , 开发应用 , 评论(0) , 引用(0) , 阅读(3893)

原理：读取某站点的源文件，再利用正则分析其源代码，得到所有链接
/**********qiushuiwuhen(2002-5-20)***********/
if(empty($url))$url = "http://www.csdn.net/expert/";//设置url
$site=substr($url,0,strpos($url,"/",8));//站点
$base=substr($url,0,strrpos($url,"/")+1);//文件所在目录

$fp = fopen($url, "r" );//打开url
while(!feof($fp))$contents.=fread($fp,1024);//

$pattern="&line;href=['"]?([^ '"]+)['" ]&line;U";
preg_match_all($pattern,$contents, $regArr, PREG_SET_ORDER);//匹配所有href=
for($i=0;$iif(!eregi("://",$regArr[$i][1]))//是否是相对路径，即是否还有://
if(substr($regArr[$i][1],0,1)=="/")//是否是站点的根目录
echo "link".($i+1).":".$site.$regArr[$i][1]."
";//根目录
else
echo "link".($i+1).":".$base.$regArr[$i][1]."
";//当前目录
else
echo "link".($i+1).":".$regArr[$i][1]."
";//相对路径
}
fclose($fp);
?>

Feb 5

PHP 建立 Excel 檔案

bkkkd , 09:19 , 开发应用 , 评论(0) , 引用(0) , 阅读(4858)

有時需要將資料庫內的資料或 PHP 的動態內容儲存成 excel 檔，本文會介紹一個概簡單又實用的方法。

建立 Excel 檔案

如果需要用 PHP 建立 Excel 檔案，只需用一般的檔案處理函式，而檔案名稱儲存成 .xls 副檔名即可，例如：

以下是引用片段：

 <?php
 $fp = fopen("excel/filename.xls", "w");
 fputs($fp, "MontTuetWedtThutFritSattSun");
 fclose($fp);
 ?>

以上程式碼會在 excel 目錄建立一個名為 filename.xls 的檔案，內容是在第一行寫入一星期七天的英文簡寫，每一欄一天。

實際上與建立一般文字檔的方法一樣，只是如果要跳到下一個欄位，就用 t 字元，而要跳到下一行，則用 n 字元。

顯示下載窗口

如果電腦內有安裝 Excel 的話，在預設情況下當在 IE 按了 .xls 副檔名的文件時，IE 不會彈出下載窗口，而是直接顯示內容，以下兩個例子可避免這情況：

直接將內容輸出給瀏覽器下載

以下是引用片段：
<?php
header("Content-type:application/vnd.ms-excel");
header("Content-Disposition:filename=php_excel.xls");

echo "MontTuetWedtThutFritSattSun"
?>

讀取已存在的檔案給瀏覽器下載

以下是引用片段：

<?php
header("Content-type:application/vnd.ms-excel");
header("Content-Disposition:filename=php_excel.xls");
readfile("excel/filename.xls");
?>

上面使用了 header() 傳送檔頭資訊給瀏覽器，可使瀏覽器出現下載窗口，而預設儲存的檔案名稱是 php_excel.xls。

Feb 5

做个自己站内搜索引擎

bkkkd , 09:17 , 开发应用 , 评论(0) , 引用(0) , 阅读(4004)

朋友用dreamweaver做了一个网站，没有动态的内容，只是一些个人收藏的文章，个人介绍等等。现在内容比较多了，想叫我帮他做一个搜索引擎。说实在的，这是一个不难的问题，于是就随手做了一个。现在我在其它论坛上也看到有人想做这个，于是就想说说这方面的知识，重在了解一下方法。

写程序前先要想好一个思路，下面是我的思路，可能谁有更好的，但注意这只是一个方法问题：遍历所有文件  读取内容  搜索关键字,如果匹配就放入一个数组  读数组。在实现这些步骤之前，我假定你的网页都是标准的，就是有标题(<title></title>)，也有(<bod *></body>),如果你是用dreamweaver或者frontpage设计的，那么除非你故意删掉，它们都在存在的。下面就让我们一步步来完成并在工程中改善这个搜索引擎。

一,设计搜索表单
在网站的根目录下建个search.htm，内容如下

以下是引用片段：
<html>
<head>
<title>搜索表单</title>
<meta http-equiv="Content-Type" content="text/html; charset=gb2312">
</head>

<body bgcolor="#FFFFFF" text="#000000">
<form name="form1" method="post" action="search.php">
  <table width="100%" cellspacing="0" cellpadding="0">
<tr>
   <td width="36%">
      <div align="center">
      <input type="text" name="keyword">
      </div>
   </td>
   <td width="64%">
      <input type="submit" name="Submit" value="搜索">
   </td>
</tr>
  </table>
</form>
</body>
</html>

二，搜索程序
再在根目录下建个search.php 的文件，用来处理search.htm表单传过来的数据.内容如下

以下是引用片段：
<?php
//获取搜索关键字
$keyword=trim($_POST[“keyword”]);
//检查是否为空
if($keyword==””){
echo”您要搜索的关键字不能为空”;
exit;//结束程序
}
?>

这样如果访问者输入的关键字为空时，可以做出提示。下面是遍历所有文件。

我们可以用递归的方法遍历所有的文件，可以用函数opendir,readdir,也可以用PHP Directory的类。我们现在用前者.

以下是引用片段：
<?php
  //遍历所有文件的函数
  function listFiles($dir){
$handle=opendir($dir);
while(false!==($file=readdir($handle))){
   if($file!="."&&$file!=".."){
      //如果是目录就继续搜索
      if(is_dir("$dir/$file")){
         listFiles("$dir/$file");
      }
      else{
         //在这里进行处理
      }
   }
}
}

?>

在红字的地方我们可以对搜索到的文件进行读取，处理.下面就是读取文件内容，并检查内容中是否含有关键字$keyword,如果含有就把文件地址赋给一个数组。

以下是引用片段：
<?php
//$dir是搜索的目录,$keyword是搜索的关键字 ,$array是存放的数组
function listFiles($dir,$keyword,&$array){
$handle=opendir($dir);
while(false!==($file=readdir($handle))){
   if($file!="."&&$file!=".."){
      if(is_dir("$dir/$file")){
         listFiles("$dir/$file",$keyword,$array);
      }
      else{
         //读取文件内容
         $data=fread(fopen("$dir/$file","r"),filesize("$dir/$file"));
         //不搜索自身
         if($file!=”search.php”){
            //是否匹配
   if(eregi("$keyword",$data)){
               $array[]="$dir/$file";
   }
         }
      }
   }
}
}
//定义数组$array
$array=array();
//执行函数
listFiles(".","php",$array);
//打印搜索结果
foreach($array as $value){
echo "$value"."<br>n";
}
?>

现在把这个结果和开头的一段程序结合起来，输入一个关键字，然后就会发现你的网站中的相关结果都被搜索出来了。我们现在在把它完善一下。
1,列出内容的标题
把

以下是引用片段：
if(eregi("$keyword",$data))
{

$array[]="$dir/$file";
}

改成

以下是引用片段：
if(eregi("$keyword",$data)){
     if(eregi("<title>(.+)</title>",$data,$m)){
         $title=$m["1"];
     }
     else
    {
          $title="没有标题";
     }
       $array[]="$dir/$file $title";
}

原理就是，如果在文件内容中找到<title>xxx</title>，那么就把xxx取出来作为标题，如果找不到那么就把标题命名未”没有标题”.

2,只搜索网页的内容的主题部分。
做网页时一定会有很多html代码在里面，而这些都不是我们想要搜索的，所以要去除它们。我现在用正则表达式和strip_tags的配合,并不能把所有的都去掉。
把

以下是引用片段：
$data=fread(fopen("$dir/$file","r"),filesize("$dir/$file"));
//不搜索自身
if($file!=”search.php”){
//是否匹配
if(eregi("$keyword",$data)){

改为

以下是引用片段：
$data=fread(fopen("$dir/$file","r"),filesize("$dir/$file"));
if(eregi("<body([^>]+)>(.+)</body>",$data,$b)){
    $body=strip_tags($b["2"]);
}
else{
     $body=strip_tags($data);
}
if($file!="search.php"){
     if(eregi("$keyword",$body)){

3,标题上加链接

以下是引用片段：
foreach($array as $value){
echo "$value"."<br>n";
}

改成

以下是引用片段：
foreach($array as $value){
//拆开
list($filedir,$title)=split(“[ ]”,$value,”2”);
//输出
echo "<a href=$filedir>$value</a>"."<br>n";
}

4防止超时
如果文件比较多，那么防止PHP执行时间超时是必要的。可以在文件头加上
set_time_limit(“600”);
以秒为单位，所以上面是设10分钟为限。

所以完整的程序就是

以下是引用片段：
<?php
set_time_limit("600");
//获取搜索关键字
$keyword=trim($_POST["keyword"]);
//检查是否为空
if($keyword==""){
echo"您要搜索的关键字不能为空";
exit;//结束程序
}
function listFiles($dir,$keyword,&$array){
$handle=opendir($dir);
while(false!==($file=readdir($handle))){
   if($file!="."&&$file!=".."){
      if(is_dir("$dir/$file")){
         listFiles("$dir/$file",$keyword,$array);
      }
      else{
         $data=fread(fopen("$dir/$file","r"),filesize("$dir/$file"));
if(eregi("<body([^>]+)>(.+)</body>",$data,$b)){
               $body=strip_tags($b["2"]);
}
else{
               $body=strip_tags($data);
}
if($file!="search.php"){
      if(eregi("$keyword",$body)){
   if(eregi("<title>(.+)</title>",$data,$m)){
                     $title=$m["1"];
   }
   else{
                     $title="没有标题";
   }
   $array[]="$dir/$file $title";
      }
}
      }
   }
}
}
$array=array();
listFiles(".","$keyword",$array);
foreach($array as $value){
//拆开
list($filedir,$title)=split("[ ]",$value,"2");
//输出
echo "<a href=$filedir target=_blank>$title </a>"."<br>n";
}
?>

到此为止，你已经做好了自己的一个搜索引擎，你也可以通过修改内容处理部分来改进它，可以实现搜索标题，或者搜索内容的功能。也可以考虑分页。这些都留给你自己吧。

这里说明一下用preg_match代替eregi，会快很多。这里只是为了通俗易懂，所以使用了常用的eregi.

分页： 21/29

16 17 18 19 20 21 22 23 24 25

[ 显示模式：摘要 | 列表 ]

PHP程序与服务器端通讯方法小结

中文搜索引擎技术揭密：中文分词

PHP读取某站点的链接的函数

PHP 建立 Excel 檔案

建立 Excel 檔案

顯示下載窗口

做个自己站内搜索引擎

分类

统计

搜索

最新日志

链接

归档

其他

热门Tags