基于预训练语言模型的中文专利自动分类研究

目的：支撑大规模中文专利精准自动分类工作，利用改进中文专利文本表示的预训练语言模型实现专利的自动分类。方法：基于中文预训练语言模型RoBERTa，在大规模中文发明专利语料上分别使用单字遮盖策略和全词遮盖策略遮盖语言模型任务进行迁移学习，得到改进中文专利文本表示的RoBERTa模型（ZL-RoBERTa）和RoBERTa-wwm模型（ZL-RoBERTa-wwm）；将模型应用到专利文本分类任务中进行实验研究，并与典型深度学习模型（Word2Vec+BiGRU+ATT+TextCNN）和当前先进的预训练语言模型BERT、RoBERTa进行对比分析。结果：基于ZL-RoBERTa和ZL-RoBERTa-wwm的中文专利自动分类模型在专利文本分类任务上的分类精准率/召回率/F1值更为突出。结论：改进文本表示的中文专利预训练语言模型用于专利文本分类具有更优效果，这为后续专利情报工作中应用预训练模型提供了模型基础。     

基于深度学习的生物医学文本分类研究

目的：探索基于深度学习的文本分类方法在生物医学文本的学科分类中是否具有更好的分类性能。方法：以中国医院科技量值研究中累积的神经病学科、消化病学科、肿瘤学科的SCI论文为数据来源,分别训练并测试CNN、LSTM、LSTM-CNN、LSTM-attention及SVM模型并评估其性能。结果：5类模型中,双层CNN模型的分类性能最好,CNN、LSTM、LSTM-CNN和LSTM-attention模型的分类性能均优于SVM模型。结论：基于深度学习的文本分类方法可提高生物医学文本的学科分类精度,推动医院评价和学科评估的发展。     

基于多特征条件随机场的《金匮要略》症状药物信息抽取研究

目的结合自然语言处理方法,研究可以有效抽取中医古籍中所含症状和药物文本实体信息的方法。方法以《金匮要略》为例,采用条件随机场(CRF)算法,先将文本进行分词处理,然后以词性、基于键值对的中医诊断标记集作为辅助特征,通过症状-药物BIO标签为训练特征来训练出模型,然后利用该模型对测试集文本进行自动标签标注。结果基于多特征CRF自动标注的结果准确率达到84.5%,召回率达到70.9%,F测度值达到77.1%。结论运用CRF方法加入词性、中医诊断标记集特征集进行训练得出的多特征模型,能有效提高CRF算法对中医古籍的实体抽取能力,生成的模型可用来自动化抽取中医古籍文本的症状药物实体信息。     

基于BERT特征的双向LSTM神经网络在中文电子病历输入推荐中的应用

目的:针对当前电子病历录入中的便捷性与规范性的双重需求,尝试利用神经网络算法来挖掘病历文本的语言习惯和承接关系,以便嵌入病历录入系统,提高医生输入的效率和质量。方法:设计了基于大数据的电子病历录入推荐工具,对骨创伤科病历文本进行清洗构建训练集后做特征编码,采用基于深度学习的BiLSTM网络算法,学习专科专病的语义信息。结果:分别基于BERT特征、独热编码、词向量三种文本表示,针对过往病历数据建立BiLSTM模型,预测下一句文本,结果表明使用BERT预训练模型特征的BiLSTM模型F1-score达到75.23%,且具有实际应用的价值。在专科专病文本推荐的场景下,BERT特征优于独热编码和Word2Vec词向量。     

基于深度学习的猩红热流行趋势预测模型研究

目的：探究季节性差分自回归滑动平均（seasonal autoregressive integrated moving average,SARIMA）模型和长短时记忆神经网络（long?short term memory neural network,LSTM）模型在江苏省猩红热发病趋势预测中的应用,为疫情防控工作提供理论依据。方法：以江苏省2005—2017年猩红热的逐月发病数据与气象数据作为训练数据,拟合SARIMA模型和LSTM模型,以江苏省2018—2019猩红热的逐月发病数据与气象数据作为测试集,检验模型的预测精度。结果：江苏省猩红热流行具有明显的季节性特征,每年4—6月和11月—次年1月为高发时间段。最优SARIMA模型为SARIMA（3,1,2）（1,1,1）12,最优LSTM的结构为以过去3个月的发病数据结合气象公因子作为模型输入,当前周期发病数为对应的期望输出,建立4层LSTM,每层包含32个长短时记忆神经元,以及1层全连接层。两种模型测试集的平均绝对误差百分比分别为35.97%、16.94%;均方根误差分别为227.85、152.46。提示LSTM神经网络的拟合效果和前瞻性预测精度优于SARIMA模型。结论：LSTM模型对江苏省猩红热发病趋势拟合和预测效果较好,可以用于流行趋势研判和风险评估,为优化和调整猩红热监测、防控策略和措施提供依据。     

基于BiLSTM-CRF的中文生物医学开放式概念关系抽取

目的：利用深度学习方法自动抽取中文生物医学文本中的开放式概念关系,以增强生物医学文本理解及医学知识网络构建。方法：使用BiLSTM-CRF模型从中文生物医学文献数据中抽取以句子上下文短语描述的开放式概念关系,并与基于条件随机场（Conditional Random Fields,CRF）和基于长短时记忆网络（Long Short-Term Memory,LSTM）的方法进行对比分析。结果：基于BiLSTM-CRF的中文生物医学开放式概念关系抽取方法取得F1值为0.5221,显著高于基于CRF模型的方法（F1值为0.2353）和基于LSTM模型的方法（F1值为0.3355）。结论：与单独使用CRF模型或LSTM模型的方法相比,基于BiLSTM-CRF的开放式概念关系抽取方法具有更好的鲁棒性和泛化性,对于生物医学文本理解、医学知识网络构建等研究具有借鉴意义。     

基于长短期记忆网络和Logistic回归的重症监护病房脑卒中患者院内死亡风险预测

目的: 基于引入注意力机制的长短期记忆网络(long short-term memory,LSTM)和L1正则化的Logistic回归筛选变量,再通过传统的Logistic回归建立重症监护病房(intensive care unit,ICU)脑卒中患者院内死亡风险预测模型并评价模型效果。方法: 选取重症医学信息数据库(Medical Information Mart for Intensive Care-Ⅳ,MIMIC-Ⅳ)中的脑卒中患者作为研究对象,以是否发生院内死亡作为结局变量,备选预测因子包括人口学特征、合并症、入院48 h内实验室检查和生命体征检查等。将数据根据结局指标以8 ∶2的比例随机进行10次训练集和测试集的划分,在训练集上构建LSTM和L1正则化的Logistic回归模型,在测试集上选取重要程度排名前10的变量的并集纳入Logistic回归建立预测模型,以受试者工作特征曲线下面积(area under curve, AUC)、灵敏度、特异度、预测准确度为指标对模型进行评价,并与未预先进行变量筛选的前进法Logistic回归模型的预测效果进行比较。结果: 共纳入2 755例脑卒中患者的2 979条ICU入院记录,其中院内死亡记录占17.66%。两个变量筛选模型中,L1正则化的Logistic回归模型的AUC显著优于LSTM模型(0.819±0.031 vs. 0.760±0.018, P < 0.001),两个模型中重要程度均位于前10的变量包括年龄、血糖和尿素氮。最终预测模型的AUC为0.85,灵敏度为85.98%,特异度为71.74%,预测准确率为74.26%,优于未预先进行变量筛选的前进法Logistic回归模型。结论: 用引入注意力机制的LSTM和L1正则的Logistic回归筛选出的变量的预测效果较好,具有一定的临床价值。     

中医病历术语识别方法探讨

目的探索中医领域利用少量标注语料进行电子病历中医学实体信息的命名实体识别(NER)研究工作,为更复杂的中医电子病历信息处理及深度学习方法在中医领域内的运用提供参考。方法分析中医电子病历词汇术语与一般的NER任务相比较的特殊性,对比了目前3种NER技术的优缺点,找寻适合中医电子病历医学术语的NER技术。结果长短时记忆神经网络(LSTM)是一种无监督学习模型,能有效利用序列数据中长距离依赖信息,特别适合处理文本序列数据;还可以和条件随机场(CRF)模型相结合,解决中医NER的难点。长短时记忆神经网络联合条件随机场模型(LSTM-CRF)可以在未标记的病历文本语料上无监督学习词语特征,不依赖于人工设计特征模板而达到自动提取患者症状、疾病、诱因等命名实体的目的。结论中医电子病历术语识别应利用多种命名实体识别技术,充分发挥这些技术的优势,提高模型识别准确性。     

中医皮肤病经典古籍源流梳理与文本分析

中医皮肤病的发展存在病名分类逐渐趋于细化、不同时代病名变化较大、历代皮肤病皆以"疮疡""恶疮"一类的感染性皮肤病为主3个特点。梳理中医皮肤病经典古籍,建立古籍文本专题数据库,并基于最新的自然语言处理技术进行分析,对中医皮肤病的研究与临床诊疗有以下益处:一方面筛选中医皮肤病相关经典古籍并进行数字化处理,有助于临床医师有针对性的阅读、学习古籍;另一方面通过皮肤病相关的关键词抓取,梳理皮肤病相关病名、别名、病因病机、症状、证候、方剂等信息,进而建立中医皮肤病知识元,帮助临床医师更快捷地从古籍中汲取所需要的信息,为临床诊治提供一定的思路与助益。但目前中医皮肤病古籍数据库的构建同样面临如下困难:其一,目前的中医古籍分词技术并不成熟,关键词的抓取较为困难;其二,中医皮肤病的古籍范围覆盖较广,关于皮肤病的论述大部分收录于外科、妇科、儿科等类别的医籍中而非以专著的形式存在。     

中医皮肤病经典古籍源流梳理与文本分析

中医皮肤病的发展存在病名分类逐渐趋于细化、不同时代病名变化较大、历代皮肤病皆以"疮疡""恶疮"一类的感染性皮肤病为主3个特点。梳理中医皮肤病经典古籍,建立古籍文本专题数据库,并基于最新的自然语言处理技术进行分析,对中医皮肤病的研究与临床诊疗有以下益处:一方面筛选中医皮肤病相关经典古籍并进行数字化处理,有助于临床医师有针对性的阅读、学习古籍;另一方面通过皮肤病相关的关键词抓取,梳理皮肤病相关病名、别名、病因病机、症状、证候、方剂等信息,进而建立中医皮肤病知识元,帮助临床医师更快捷地从古籍中汲取所需要的信息,为临床诊治提供一定的思路与助益。但目前中医皮肤病古籍数据库的构建同样面临如下困难:其一,目前的中医古籍分词技术并不成熟,关键词的抓取较为困难;其二,中医皮肤病的古籍范围覆盖较广,关于皮肤病的论述大部分收录于外科、妇科、儿科等类别的医籍中而非以专著的形式存在。     

麻疹的双相移位研究进展

近年新生儿、婴儿、成人麻疹患者逐年增加,临床表现一般仍较典型,成年人麻疹患者全身中毒症状较重。麻疹抗体检测结果阳性是主要的诊断依据。麻疹发病的双相移位的机理可能是,免疫保护力不足,婴儿出生时麻疹抗体力低。孕期母传胎的麻疹抗体减弱,母经乳汁传给婴儿的抗体减弱,成人麻疹抗体水平逐年下降。预防措施是怀孕前给予育龄妇女麻疹疫苗接种,鼓励母乳喂养,麻疹疫苗计划免疫适当提前,在成人追加麻疹疫苗的免疫,加强病毒变异的研究等。     

腰椎间盘突出症再次手术的原因分析

目的解决腰椎间盘突出症手术中神经压迫。方法对1980～1998年再手术资料进行统计分析,讨论分析再手术原因,再次手术前影像学检查,观察病理变化以确定再手术方法。结果对11例随访6个月～1年,优7例(68．4％),良3例(36．8％),差1例(2．8％)。结论初次手术前详细查体和分析X线片,术中用导尿管和神经剥离探查,尽量避免髓核遗留,手术范围不宜太大,尽量减少对软组织和脊柱结构的破坏,避免形成硬膜囊与神经根粘连而致单纯形疤痕。     

扩张兔皮肤超微结构的变化

目的：动态观察扩张兔皮肤超微结构的变化。方法：选用2--3kg新西兰大白兔64只，分为2大组，快速扩张组和常规扩张组，每组32只，每大组再分为4组，为扩张完成后即时、1周、12周、24周组。每组8只，其中4只为实验组，另4只植入扩张器不扩张作为对照组。透射电子显微镜观察各组皮肤超微结构的变化。结果：表皮扩张后经历--由扩张刺激引起的创伤至完全修复的过程。扩张后即时真皮中成纤维细胞大量增生，功能由静止转向活跃，胶原纤维碎裂成片，弹力纤维部分断裂，炎症细胞浸润；扩张后1周常规扩张组基底膜连续性基本恢复。显示成纤维细胞合成功能活跃。扩张后12周、24周，成纤维细胞趋于稳定、形态狭长，部分胶原排列紊乱，部分有似癜痕样改变。结论：扩张刺激可致兔皮肤创伤。扩张后真皮不可完全修复。     

芹黄素对大鼠缺血视网膜功能恢复的作用

目的观察芹黄素对大鼠缺血视网膜功能恢复的作用。方法30只Long-Evans大鼠用动脉结扎法造成视网膜缺血模型,其中治疗组20只腹腔注射芹黄素,对照组10只注射溶媒二甲基亚酚。用视觉电生理仪检查视网膜功能恢复情况。结果芹黄素治疗组视网膜功能恢复明显好于对照组(P<0.05)。结论芹黄素能促进大鼠缺血视网膜的功能恢复。      

尿液pH值对红细胞检验影响的探讨

[目的 ]通过尿液 pH值对红细胞检验影响的观察 ,更加科学、准确地诊断血尿和血红蛋白尿。[方法 ]采用干化学分析仪检测和尿液显微镜红细胞计数 ,观察 180例正常人尿标本加入正常人血标本后 ,不同 pH值 ,不同时间内 ,观察红细胞溶解情况。 [结果 ]pH <5 .5以下时 ,随着时间的延长 ,红细胞溶解现象明显。 1h后观察有显著性差异 (P <0 .0 5 ) ;2h后有非常显著性差异 (P <0 .0 1)。[结论 ]pH <5 .5时对红细胞计数影响较大 ,易致红细胞发生溶解现象 ,出现假性血红蛋白尿 ,对血尿和血红蛋白尿很难区分 ,给临床诊断造成不便 ,更易引起漏诊和误诊。     

降钙素原变化率的测定对细菌性肺炎的评估价值

目的 探讨降钙素原变化率的测定对细菌性肺炎的评估价值.方法 选取住院治疗的细菌性肺炎患者72例,根据治疗效果分为治疗有效组(有效组)47例和治疗无效组(无效组)25例,对治疗有效组和无效组中的降钙素酶原变化及影响肺炎治疗效果的危险因素进行分析.结果 有效组治疗后3天及治疗后7天的降钙素酶原显著低于无效组的患者(P＜0.05);年龄＞65岁、心功能≥3级、COPD、糖尿病、肺部双侧受累(X线示)、菌血症、感染性休克和3天内降钙素酶原变化率＜30％是影响细菌性肺炎治疗效果的危险因素;感染性休克、肺部双侧受累、3天内降钙素酶原变化率＜30％及心功能≥3级是影响细菌性肺炎治疗效果的独立危险因素.结论 测定降钙素原变化率对细菌性肺炎的疗效评估具有重要临床意义,可在临床推广应用.     

人体寄生虫学多媒体教学效果的初步评估

通过分析多媒体辅助教学方法与传统教学方法在人体寄生虫学教学中的应用,指出多媒体辅助教学对于提高教学质量效果显著,受到了绝大部分同学的赞同和欢迎.     

上颌骨牙源性囊肿刮除手术的疗效观察

目的探讨对上颌骨牙源性囊肿患者进行囊肿彻底刮除手术的临床疗效。方法对我科在2010年1月～2017年9月收治的73例上颌骨牙源性囊肿患者行囊肿彻底刮除手术治疗,对患者术区肿胀消退、术后伤口感染、伤口愈合、牙龈再附着、术后复发、骨质改建、骨质修复等情况随访观察。结果 73例患者术后肿胀消退时间为1～4 d。73例患者术后均未发生伤口感染,伤口均一期愈合。所有患者牙龈再附着情况好,术后均未见复发。术后未见并发症。骨质改建效果好,骨质修复的效果因影像学资料过少,缺乏客观依据,暂不下有效结论。结论对上颌骨牙源性囊肿患者进行囊肿彻底刮除手术,术后患者的恢复情况良好,值得在临床治疗上进行推广。     

头孢他啶用于胸外科感染的疗效分析

目的 观察和评价头孢他啶（泰得欣）应用于普通胸外手术的临床疗效和安全性。方法 采用对比试验，观察2005年8-10月96例普胸手术预防和治疗的疗效和不良反应。结果 泰得欣在预防和治疗术后感染中总有效率95．9％，不良反应发生率为5．2％。结论 泰得欣临床效果满意，使用安全，值得在普胸手术中选用。     

87株幽门螺旋杆菌VacA等位基因的分析

目的以研究方法LiPA（Line Probe Assay）分析VacA等位基因的表达,了解幽门螺旋杆菌致病机理的理解。方法从三个不同城市87位进行胃镜检查患者的胃粘膜中培养出幽门螺旋杆菌,提取DNA,用LiPA方法分析VacA等位基因。结果（1）87位患者以sic（88．5％）和m2a（63．2％）分布为主,未发现s1b和s2;（2）混合菌株感染率为41．4％,远远高于西方国家,其中上海的混合感染率最高（62．5％）,与北京（41．0％）和南宁（20．8％）相比具有显著性差异,P〈0．01;（3）北京、海、南京三个不同城市s1、m等位基因亚型分布率存在差异;（4）溃疡病和非溃疡病患者m1和m2的分布率没有显著性差异。结论我国幽门螺旋杆菌多重菌株感染率较高,不同的m基因型与消化性溃疡的发生无显著性相关。