查看: 1085|回复: 14
打印 上一主题 下一主题

[工具] 20220828更新—牛津高阶双解第四版光盘数据简单分析和提取

[复制链接]

该用户从未签到

48

主题

410

回帖

2万

积分

状元

Rank: 9Rank: 9Rank: 9

积分
24502

灌水大神章小蜜蜂章笑傲江湖章

跳转到指定楼层
1
发表于 2022-8-16 00:15:32 | 只看该作者 |只看大图 回帖奖励 |倒序浏览 |阅读模式
本帖最后由 tsiank 于 2022-8-28 22:13 编辑

看到论坛上还有许多人对牛津高阶双解第四版很感兴趣,也有人为了完善此词典而不断修正。然而此词典的数据在不断地转制过程中,失真较多,纵有多个版本相互参照,也不一定能校正过来。昨天有个朋友提起,我又找来原光盘的数据看了看,发现里面的数据基本上是明文存储的,研究了一番,最终基本成功提取。

光盘的数据文件在DATA目录中,比较大的文件有三个:JRDCONV.DAT、JRDOVFL.DAT、JRDINDX.DAT。第三个名字一看就知道应该是词条的索引文件。第一个文件最大,词条内容应该就在这里。用Emeditor默认编码打开,里面的英文一览无遗,而且没有加密,中文是乱码,由于原光盘是繁体版,便试着把文本切换到BIG5码看看,果然中文都是正常了!再观察英文,有许多口口不能显示,而且这些口口似乎都是成对出现的,口P口p、口B口i、口I口i、口W口w,对html熟悉的人来说,瞬间就明白这些应该就是html标签。



如果在以前,我可能就直接用emeditor正则批量处理了,可是这些词条之间并没有什么特别独特的标记,导致不好分隔。这时我切换到16进制视图想看看到底有什么规律。然后发现每个词条在大段00后都以非00字符起始,后面再连续几个00字符,这些非0字符接数字顺序排列,最后一个词条是5716,换成10进制就是22294,这就是主词头数目了。



试着用C#写了脚本,以二进制方式读取,判断词头位置,划分词条,替换标签,转为UTF8保存。初步生成的文本如下,看起来似乎稍加处理就能用了。然后就又发现了个问题,好多词条都不完整,只有一半,另一半数据呢?答案就是在JRDOVFL.DAT这个文件中。


JRDOVFL.DAT这个文件,每个词条在几个00后都也是以非00字符起始,这些字符也是词条序号,和JRDCONV.DAT文件中词条序号对应。一开始以为只要把这些词条追加到JRDCONV.DAT文件相应词条后面就行了,可生成后发现并不对。这个文件中有好多词条都是出现多次,需要插入到JRDCONV.DAT文件中同一词条的不同部分,这些要插入的位置都是以FF00起始。FF00后面的三个字节没看出来和JRDOVFL.DAT中的词条有什么对应关系。这就给两个文件中的词条合并增加了些困难。好在同一词条不同部分都是以先后出现的顺序插入,于是就用这个办法,以我有限的编程知识,循环套循环的实现。


经过多次调整,最后算是把词典数据基本还原了。不过也不能完全保证数据完全还原,有些词条的末尾处有数据编号,没看出具体作用,可能和图片声音有关吧。代码和提取后的数据我都放出来了,想动手的人可以照此思路和方法自己试着提取。由于光盘版本身有些数据就有问题,所以提取出来的数据也非完美。有人想要完善的可在此基础上继续加工,或可以以此数据和现在数据作校对用。需要注意的是,如果以此制作词典,不要轻易删除数据,不要轻易把繁体转简体,以免再犯前人的问题。


20220828更新:
还原自造字;
音标转换为Unicode音标;
英文例句破折号还原;
增加牛津高阶第四版图片版;

欲了解详情,可点击个人网站 https://haibao.me

链接: https://pan.baidu.com/s/1HYBprhXAT4aoyDKe7u-Evw?pwd=b2tt 提取码: b2tt

评分

3

查看全部评分

  • TA的每日心情
    开心
    前天 15:40
  • 签到天数: 791 天

    [LV.10]以坛为家III

    3

    主题

    1637

    回帖

    1万

    积分

    状元

    Rank: 9Rank: 9Rank: 9

    积分
    18840

    QQ 章

    3
    发表于 2022-8-16 02:45:24 | 只看该作者
    感谢楼主无私分享!

    该用户从未签到

    0

    主题

    16

    回帖

    181

    积分

    童生

    Rank: 2

    积分
    181
    4
    发表于 2022-8-16 04:28:59 | 只看该作者
    謝謝您費心!!
  • TA的每日心情
    开心
    3 天前
  • 签到天数: 346 天

    [LV.8]以坛为家I

    11

    主题

    721

    回帖

    5336

    积分

    会元

    Rank: 7Rank: 7Rank: 7

    积分
    5336
    5
    发表于 2022-8-16 14:39:24 | 只看该作者
    谢谢分享!祝您快乐~

    该用户从未签到

    14

    主题

    821

    回帖

    2万

    积分

    状元

    Rank: 9Rank: 9Rank: 9

    积分
    24907

    灌水大神章小蜜蜂章笑傲江湖章

    7
    发表于 2022-8-17 14:13:40 | 只看该作者
    辛苦了,谢谢
  • TA的每日心情
    开心
    前天 08:35
  • 签到天数: 519 天

    [LV.9]以坛为家II

    0

    主题

    940

    回帖

    7068

    积分

    会元

    Rank: 7Rank: 7Rank: 7

    积分
    7068

    QQ 章

    8
    发表于 2022-8-18 14:12:56 | 只看该作者
    感谢LZ分享
  • TA的每日心情
    开心
    5 天前
  • 签到天数: 641 天

    [LV.9]以坛为家II

    13

    主题

    1510

    回帖

    3万

    积分

    状元

    Rank: 9Rank: 9Rank: 9

    积分
    31854
    10
    发表于 2022-8-28 14:23:44 | 只看该作者
    感谢LZ分享!
  • TA的每日心情
    开心
    昨天 14:20
  • 签到天数: 244 天

    [LV.8]以坛为家I

    1

    主题

    446

    回帖

    6841

    积分

    会元

    Rank: 7Rank: 7Rank: 7

    积分
    6841
    12
    发表于 2022-11-12 09:54:24 | 只看该作者
    请楼主更新一下链接,多谢
  • TA的每日心情
    开心
    2023-3-16 18:20
  • 签到天数: 424 天

    [LV.9]以坛为家II

    0

    主题

    507

    回帖

    6211

    积分

    会元

    Rank: 7Rank: 7Rank: 7

    积分
    6211

    灌水大神章

    13
    发表于 2022-11-16 15:51:25 来自手机 | 只看该作者
    给大佬点赞
  • TA的每日心情
    慵懒
    2023-1-10 21:48
  • 签到天数: 802 天

    [LV.10]以坛为家III

    3

    主题

    2373

    回帖

    2万

    积分

    禁止发言

    积分
    20562

    小蜜蜂章笑傲江湖章灌水大神章

    14
    发表于 2022-11-19 10:57:17 | 只看该作者
    能否放一个文本mdx出来呢,或者告知下这个文本怎么转换成mdx
  • TA的每日心情
    开心
    2023-3-12 18:44
  • 签到天数: 1 天

    [LV.1]初来乍到

    0

    主题

    10

    回帖

    40

    积分

    白身

    Rank: 1

    积分
    40
    15
    发表于 2023-3-12 18:53:29 来自手机 | 只看该作者
    大佬还能分享嘛,链接过期了