|
曾编了一个程序，应用于数学建模的数据提取阶段。现归纳如下,思路写得比较详细,看起来像教程-_-。
目的是做一个BBS的流量统计，需要分析的数据是每一分钟之内，有哪些ID在线，这些ID的IP是多少，并且要求ID与IP一一对应，不能有重复ID和重复IP,并要求每一分钟生成一个矩阵,分别是ID IPA段 IPB段 IPC段 IPD段, 并存成文本文件, 文件名为hh:mm格式. 然后把这些文本文件导入MatLab进行分析处理,现讨论前面的数据获得阶段的实现方法。
数据源从http://bbs.pku.edu.cn/cgi-bin/bbsusr?to=*获得（北大的服务器比较烂，今天就上不去）
1，首先数据需要下载，这里采用Msxml2.ServerXMLHTTP控件来进行异步下载获得数据源，之所以不用Microsoft.XMLHTTP是因为Msxml2.ServerXMLHTTP这个控件可以设定超时时间。这完全是开发SXNA过程中得到的启发。由于数据源的特点是数据量在随时变化，不固定容量，所以有必要设定超时。否则程序将不能正确执行容易导致死机。
2，其次需要每一分钟自动下载一遍数据源，并要求按时间精确存储。也就是说必须每一分钟自动驱动一遍下载程序，这就要求程序能够实现自动刷新功能。自动刷新功能的实现有多种方法，最基础的是使用meta标签实现refresh，但是本程序要求精确控制时间下载，必须在每一分钟内保证有一次下载，所以meta标签不适用于此程序。其他的方法还有诸如javascript里面的reload方法，window.location.href方法等等，考虑到兼容性的问题选用window.location.href来实现自动驱动。SXNA中的数据更新也用的差不多这种方法。
3，为实现每一分钟自动下载需要记录下次下载的时间，存在application("mytime")里面，然后用Javascript的Settimeout判断这次的时间是否到达下次下载时间，并把当前剩余时间显示在屏幕上，如果达到了下载时间，则自动刷新驱动程序。这里面有一个问题，就是Javascript只认得RFC的时间,所以还要用一个ISOtoRFC的时间转换子程序。当每一次驱动下载之前application("mytime")要自动加60秒，这样靠application("mytime")来精确控制下载时间。
4，数据下回来之后，用http.ResponseText来提取数据源信息，由于得到的代码为HTML代码，所以这里采用正则表达式来进行有效数据提取。首先分析ID的分布规律，注意到每一个ID都跟在"bbsqry?name="之后，所以搜索代码采用"bbsqry\?name=(\w*?)"""，由于每一个id要重复两次，所以下面进行VALUE遍历提取的时候Matches.count要标注step 2。用同样类似的方法也把ip提取出来，搜索代码采用">(\d+)\.(\d+)\.(\d+)\.(\d+)"，这里值得一提的是由于需要提取每一个IP段，所以要用到SubMatches，来获取每一个子匹配的值。
5，提取完了数据还没完事，由于要求不能出现重复的ID和IP所以我必须想办法去掉重复的，还要保证一一对应，怎么去掉我想了好几种办法，开始想用正则表达式，但考虑到这样循环的次数太多，效率上根本划不来，搞不好还会死机。突然想到编SXNA的时候我把LINK作为数据库的主键索引从而避免了重复LINK的出现，于是这次也打算照葫芦画瓢。首先打开ACCESS建立数据表，把建立一个ID IP IPA段 IPB段 IPC段 IPD段 6列，ID,IP为有索引,无重复列.不建立自动编号列，是因为每一次驱动后都要删除数据,为了保险删除数据之后不压缩数据库,这样编号会无止境增长,况且编号也没用.
6,全部入库完成之后数据已经去掉重复的了,现在就要把他们做成txt文件,并以当前的时间作为文本文件的文件名.这里考虑到了单个数字时间的问题,前面要补零(突然想到了数字信号处理里面序列的补零问题-_-),具体这样写right("0"&minute(application("mytime2")),2),文件里面的内容就很简单的把数据库里面的东西用ADODB.Stream写进一个文本文件就可以了,剩下的就是数据库基本操作了.
其实思路挺简单的,但是做了3个小时-_-,其中主要把时间耗费在了时间问题上面,对于每一分钟精确存储一个文件的问题我编了好几种实现方案,最终都被我筛掉了,留下了一种最可靠的.
（转载请注明出处：http://www.dc9.cn/post/ASPMathematicalModeling.asp）
上面的仅仅是最最基本的思路，就写到这。下面是全部代码。
<title>自动保存/去掉重复ID和IP/准确按时存储/按IP升序(Sipo made for xia)v1</title>
还有多长时间<INPUT TYPE="text" NAME="mytime" id="mytime" size="60" value="">
<br>
<%
'www.dc9.cn sipo QQ17862153
'这是去掉重复ID，IP版13:15
'如果想按照ID排序就把orderby 改为name
on error resume next
dim nowstr
上一篇:ASP基本问题解决： VBScript函数
下一篇:探讨由于死锁或进程阻塞造成的ASP突然不能访问的问题
|
精品推荐