大学IT网 - 最懂大学生的IT学习网站! QQ资料交流群:367606806
当前位置:大学IT网 > C#技巧 > C#中HashTable和快速排序的用法,从单词频率统计小程

C#中HashTable和快速排序的用法,从单词频率统计小程

关键词:用法单词学习笔记排序频率  阅读(1049) 赞(19)

[摘要]C#中HashTable和快速排序的用法,从单词频率统计小程序讲起.

题目:写一个程序,分析一个文本文件(英文文章)中各个词出现的频率,并且把频率最高的10个词打印出来。

自从周四拿到题目以后,发现又要用到万恶的数据结构了,不得不说这是我的短板,所有上周20号到22号一直在看数据结构的书,当然还有google,在看书的期间确定了这个小程序编码的思路。

1.首先进行文本文件的读取,将一个一个的单词分离出来,并对单词进行统计;

2.然后对单词出现的次数进行排序;

3.最后把频率最高的10个词打印出来。

整理好思路以后,在23号的中午我终于准备拯救世界了,当然,我们宿舍的其他三位大神已经写完。。好了,不提我伤心的事了~~

经过分析后,主要就是解决两个算法的问题,

(1).查找问题:统计出所有出现的单词以及他们出现的次数,这个方法挺多的,这次主要用了Hashtable,速度快,方便。

在.NET Framework中,Hashtable是System.Collections命名空间提供的一个容器,用于处理和表现类似keyvalue的键值对,其中key通常可用来快速查找,同时key是区分大小写;value用于存储对应于key的值。Hashtable中keyvalue键值对均为object类型,所以Hashtable可以支持任何类型的keyvalue键值对.

   下面的代码getAllWords和CountWord分别统计出了所有出现的单词以及他们出现的次数。并且用控制台和文件输出两种方式输出。

1.首先是计算单词的次数。

这里主要用到Hashtable 中各元素的虚拟子组存储桶,每一存储桶都与一个哈希代码关联,该哈希代码是使用哈希函数生成的并基于该元素的键key.并且把分割的所有的单词存放到一个名为List<WordInfo>的集合类中,最后用allWordInfos.Add(new WordInfo(key, (int)allWords[key]));在哈希表中添加了一个keyvalue键值对,为每一唯一键生成唯一哈希代码的哈希函数使得搜索性能更佳。

 public void CountWord(string inputFilePath, string outputFilePath)
         {
             Hashtable allWords = getAllWords(inputFilePath);
             List<WordInfo> allWordInfos = new List<WordInfo>();
             foreach (string key in allWords.Keys)
             {
                 allWordInfos.Add(new WordInfo(key, (int)allWords[key]));
             }
             qucikSort(allWordInfos, 0, allWordInfos.Count - 1);
             writeToFile(allWordInfos, outputFilePath);
         }

2.然后是统计出了所有出现的单词

在分析过程中发现还需要特别注意' ', ',', ';', '.', '!', '"'这些符号,所以在读取字节的时候用到了StreamReader的方法,主要是使其以一种特定的编码从字节流中读取字节。然后将读出来的字符串做处理,分成一个个的单词,然后就把所有英文单词对象添加到 Hashtable 的存储桶中,该存储桶与匹配该对象的哈希代码的哈希代码关联。在 Hashtable 内搜索一个值时,将为该值生成哈希代码,并且搜索与该哈希代码关联的存储桶。使得搜索效率变得很高。

 private Hashtable getAllWords(string filePath)
         {
             Hashtable allWords = new Hashtable(10240);
             using (StreamReader sr = new StreamReader(filePath, Encoding.Default))
             {
                 string line = null;
                
                 char[] seperators = new char[] { ' ', ',', ';', '.', '!', '"' };
                 string[] words = null;
                 while ((line = sr.ReadLine()) != null)
                 {
                     line = line.ToLower();
                     words = line.Split(seperators, StringSplitOptions.RemoveEmptyEntries);
                     if (words != null && words.Length > 0)
                     {
                         for (int i = 0; i < words.Length; i++)
                         {
                             if (allWords.ContainsKey(words[i]))
                             {
                                 allWords[words[i]] = (int)allWords[words[i]] + 1;
                             }
                             else
                             {
                                 allWords.Add(words[i], 1);
                             }
                         }
                     }
                 }
             }
             return allWords;
         }

这个程序第二个问题就是

(2)排序问题,在这里用到了快速排序。

具体思路就是

1.分别设置low、hight指向序列的最左端、最右端;从序列中选一个进行排序(通常选最左端的值low指向的值),存入到value;
2.从hight端开始,查找比value小的,找到后讲该值放入到low指向的存储位中;同时将hight指向当前查到的值所在的位;
3.从low端开始,查找比value大的,找到后将该值放入到hight指向的存储为中,同时low指向当前查到的值所在位;
4.若low位小于hight位,返回2步;否则,将tmp值存入到空出来的low+1指向的位置,退出,返回low所在的位置lposition。
5.以lposition为界,将序列分成两部分,分别对两部分进行排序。

找了图,呵呵O(∩_∩)O~  神一样的图~~

 private void qucikSort(List<WordInfo> allWordInfos, int low, int high)
         {
             if (low >= high)
             {
                 return;
             }
             int pLow = low;
             int pHigh = high;
             WordInfo value = allWordInfos[low];
             while (pLow < pHigh)
             {
                 while ((WordInfo.Compare(allWordInfos[pHigh], value) <= 0) && pHigh > pLow)
                 {
                     pHigh--;
                 }
                 if (WordInfo.Compare(allWordInfos[pHigh], value) > 0)
                 {
                     allWordInfos[pLow] = allWordInfos[pHigh];
                     allWordInfos[pHigh] = value;
                     pLow++;
                 }
                 while ((WordInfo.Compare(allWordInfos[pLow], value) >= 0) && pHigh > pLow)
                 {
                     pLow++;
                 }
                 if (WordInfo.Compare(allWordInfos[pLow], value) <0)
                 {
                     allWordInfos[pHigh] = allWordInfos[pLow];
                     allWordInfos[pLow] = value;
                     pHigh--;
                 }
             }
             System.Diagnostics.Trace.Assert(pLow == pHigh);
             qucikSort(allWordInfos, low, pLow - 1);
             qucikSort(allWordInfos, pLow + 1, high);
         }

此次快速排序可以将英文单词出现的频率全部从高到低排序出来存储在哈希表的存储桶里。

最后再解决一些小问题

(3)控制台输出,文本输入输出,以及遍历出频率最高的10个词打印出来等问题。

 private void writeToFile(List<WordInfo> allWordInfos, string outputFilePath)
         {
             using (StreamWriter sw = new StreamWriter(outputFilePath, false, Encoding.Default))
             {
                 int i = 0;
                 sw.WriteLine("单词频率最高的10个词统计如下");
                 foreach (WordInfo wi in allWordInfos)
                 {
                         sw.WriteLine("{0}:{1}", wi.Word, wi.Count);//输出到文本文件
                         Console.WriteLine("{0}:{1}", wi.Word, wi.Count);//输出到控制台
                         i++;
                         if (i == 10) break;
                 }
             }
         }

 行了,差不多了,截图纪念了。。

 

个人小项目总结:

最后总结下Hashtable的简单操作吧

1.在哈希表中添加一个keyvalue键值对:HashtableObject.Add(key,value);
 2.在哈希表中去除某个keyvalue键值对:HashtableObject.Remove(key);
 3.从哈希表中移除所有元素:           HashtableObject.Clear(); 
 4.判断哈希表是否包含特定键key:      HashtableObject.Contains(key);

以后肯定还得用。

这个小程序到这里也就结束了,也就是24号到27号,水平有限没办法。不过还是有个好玩的小插曲的,做完以后才发现我的运行效率是宿舍最快的,我们一起运行了一个5兆的英文文章,最慢的要20秒,我的3秒搞定,阿西巴,这是开挂的节奏啊,好了,差不多睡了,晚安了,各位程序猿和程序媛们~~



相关评论