AI -人工智能LG -机器学习CV -计算机视觉CL -计算与语言

1、[ cv ] * contrastivelearningofmedicalvisualrepresentationsfrompairedimagesandtext

Y Zhang，H Jiang，Y Miura，C D. Manning，C P. Langlotz

[Stanford University]

采用无监督比较学习方法( ConVIRT )从图像-文本对中学习医学视觉显示，利用图像显示和文本数据两种模式之间的双向比较目标进行医学图像编码器的预训练。 ConVIRT是区域不可感知的，不需要附加专家输入。 在4个医学图像分类任务和2个图像检索任务中，ConVIRT的表现优于其他同样使用文本数据的强域内初始化方法，表明质量显著。 与ImageNet预培训相比，ConVIRT使用更少的标记数据提供了相同级别的分类精度。

learningvisualrepresentationsofmedicalimagesiscoretomedicalimageunderstandingbutitsprogresshasbeenheldbackbythesmallsizeofhand workcommonlyreliesontransferringweightsfromimagenetpretraining，whichissuboptimalduetodrasticallydifferentimagecharacteristicting or rule-basedlabelextractionfromthetextualreportdatapairedwithmedicalimages、 whichisinaccurateandhardtogeneralize.weproposeanalternativeunsupervisedstrategytolearnmedicalvisualrepresentationsdirectionstionsdirectlyfrectectionstionstionstionstionstlyplyp iringofimagesandtextualdata.ourmethodofpretrainingmedicalimageencoderswithepairedtextdataviabidirection contrastiveobjectivective 域聚合， andrequiresnoadditionalexpertinput.wetestourmethodbytransferringourpretrainedweightsto4medicalimageclassificationtasksand2zed 2 ficationtasksand2shot retrieval tasks，andshowthatourmethodleadstoimagerepresentationsthatconsiderablyoutperformstrongbaselinesesestingbasesellinestingstestion shot retrieval tasks in all4class ification tasks，ourmethodrequiresonly 10 % asmuchlabeledtrainingdataaasanimagenetinitializedcounted

3359 Weibo.com/1402400261/jo kr T9 o4s

2、[ cl ] autoregressiveentityretrieval

N D Cao，G Izacard，S Riedel，F Petroni

[ universityofamsterdamfacebookairesearch ]

自回归实体检索( GENRE )是用自回归方式生成实体名，以上述条件为条件，从左向右按词条用自回归方式生成实体唯一名来检索实体。 通过自回归，可以直接捕捉上下文与实体名称的关系，有效地对两者进行交叉编码； 编解码器体系结构的参数取决于术语表的大小而不是物理数量，从而大大减少了内存消耗。 无需对负数据进行二次采样，即可有效计算出正确的软最大损耗。

entitiesareatthecenterofhowwerepresentandaggregateknowledge.for instance，encyclopediassuchaswikipediaarestructuredbyentied one per article ) . theabilitytoretrievesuchentitiesgivenaqueryisfundamentalforknowledge-intensivetasksuchasentitylinkingandopen -域查询urrentapproachesisasclassifiersamongatomiclabels、 oneforeachentity.theirweightvectorsaredenseentityrepresentationsproducedbyencodingentityinformationsuchasdescriptions.this 上下文无关紧要语音产品( I ) iii ) anappropriatelyhardsetofnegativedatahastobesubsampledattrainingtime.weproposegenre， thefirstsystemthatrievesentitiesbygeneratingtheiruniquenames，left to right，tokeninautoregressivefashion， andconditionedonthecontext.thisenablestomitigatetheaforementionedtechnicalissues:I ) theautoregressiveformulationallowsustodirectlycapturerelationsbetweencontextandentityname，effectively cross encoding both； ii ) thememoryfootprintisgreatlyreducedbecausetheparametersofourencoder-decoderarchitecturescalewithvocabularysize， notentitize iii ) ) theexactsoftmaxlosscanbeefficientlycomputedwithouttheneedtosubsamplenegativedata.weshowtheefficacyoftheapproachwithmorethan 20 biguation，end-to-endentitylinkinganddocumentretrievaltasks，achieving new SOTA， orverycompetitiveresultswhileusingatinyfractionofthememoryofcompetingsystems.finally，wedemonstratethatnewentitiescanbescanbeanbeaddded

3、[ ai ] human-levelperformanceinno-pressdiplomacyviaequilibriumsearch

J Gray，A Lerer，A Bakhtin，N Brown

[Facebook AI Research]

通过均衡搜索玩经典国际象棋桌游《外交风云》达到了人机境界，《外交风云》是一种复杂的博弈，涉及合作与竞争，对AI技术提出了重大的理论和实践挑战。 新的AI代理通过监控和学习人类数据，使用最小化外部遗憾的一步向前搜索，在该游戏中实现了人类水平的性能。 使用该代理在流行的《外交风云》网站上匿名玩游戏，在1128名人类玩家中排名第23。

prioraibreakthroughsincomplexgameshavefocusedoneithepurelyadversarialorpurelycooperativesettings.in contrast， diplomacyisagameofshiftingalliancesthatinvolvesbothcooperationandcompetition.forthis reason， diplomacyhasproventobeaformidableresearchchallenge.inthispaperwedescribeanagentfortheno-pressvariantofdiplomacythatcombinetcombinet awi thone-steplookaheadsearchviaexternalregretminimizationtechniqueshavization dpreviousaisuccesssession most notably poker， uthavenotpreviouslybeenshowntobesuccessfulinlarge-scalegamesinvolvingcooperation.weshowthatouragentgreatlyexceedstheperfoooood acy bots，is unexploitable by expert humans，andachievesarankof 23 out of 1，128 humanplayerswhenplayinganonymoon

4、[ cl ] cat Bert:context-awaretinybertfordetectingsocialengineeringemails

Y Lee，J Saxe，R Harang

[Sophos AI]

% E6 % 96 % 87 % E8 % 84 % 88 % E8 % aa % 8d % E8 % ad % 98 % E3 % 81 % AE % E8 % B6 % 85 % E5 % B0 % 8f % E5 % 9e %8bbert % 8 % 83 % BC % E3 % 83 % ab % E3 % 82 % 92 % E6 % a4 % 9c % E5 % 87 % ba % E3 % 81 % 97 % E3 % 80 % 81 % E6 % 82 % aa % E6 % 84 % E3 % 81 % be % E3 % 81 % 9a % E3 % 80 % 81 % E6 % 97 % a2 % E7 % 9f % a5 % E3 % 81 % AE % 94 % bb % E6 % 92 % 83 % E3 % 83 % E3 % 83 % a5 % a3 % E7 % 9f 9 % E3 % 81 % 97 % E3 % 81 % aa % E3 % 81 % 84 % E6 % 89 % 8b % E4 % BD % 9c % E6 % a5 % ad % E3 % 81 % AE % E3 % 82 % BD % E3 % a2 % E3 % 83 % aa % E3 % 83 % B3 % E3 % 82 % B0 % E3 % 83 % a1 % E3 % 83 % ab % E3 % 82 % 92 % E8 % ad % 98 % 89 % 8d % E3 % 81 % ab % E8 % A8 % 93 % E7 % B7 % B4 % E3 % 81 % 95 % E3 % 82 % 8c % E3 % 81 % 9f % E5 % a4 % a7 % E8 % a6 % 86 % B7 % B4。 rt % E3 % 83 % a2 % E3 % 83 % 87 % E3 % 83 % ab % E3 % 82 % 92 % E5 % be % AE % E8 % aa % BF % E6 % 95 % B4 % E3 % 81 % 97 % EB a % A0 % E7 % 9a % 84 % E3 % 81 % aa % E6 % 96 % 87 % E8 % 84 % 88 % E7 % 89 % B9 % E6 % 80 % a7 % E3 % 82 % 92 % E5 % 8a % A0 % AE % B9 % E3 % 81 % A8 % E6 % 96 % 87 % E8 % 84 % 88 % E7 % 89 % B9 % E6 % 80 % a7 % E3 % 81 % A8 % E3 % 81 % AE % e9 % 96 % 96 % E3 % 81 % 99 % E3 % 82 % 8b % E3 % 81 % 93 % E3 % 81 % A8 % E3 % 80 % 81 % a7 % E3 % 80 % 81 % E6 % 84 % E5 % 9b % B3 % E7 % 97 % B3 a % E6 % 84 % 8f % E3 % 81 % AE % E3 % 81 % 82 % E3 % 82 % 8b % e9 % 80 % 83 % e9 % 81 % BF % E3 % 81 % 8c % E3 % 81 % 82 % E3 % 82 % E3 % BC % E3 % 82 % B2 % E3 % 83 % 83 % E3 % 83 % 88 % E3 % 82 % 92 % E7 % b5 % 9e % E3 % 81 % a3 % E3 % 81 % 9f % E3 % 83 % 83 % 95 % 82 % 92 % E6 % a4 % 9c % E5 % 87 % ba % E3 % 81 % 99 % E3 % 82 % 8b % E3 % 81 % 81 % A8 % E3 % 81 % 8c % E3 % 81 % a3 % 81 % ab f % E3 % 82 % a2 % E3 % 83 % 80 % E3 % 83 % 97 % E3 % 82 % BF % E3 % 81 % A8 % E3 % 82 % B3 % E3 % 83 % 83 % 86 % E3 % B7 % E5 % 8a % 9b % E3 % 81 % aa % E3 % 83 % 99 % E3 % 83 % BC % E3 % 83 % 82 % a9 % E3 % 82 % a4 % E3 % 83 % B3 % 81 % 8a % E3 % 82 % 8a % E3 % 80 % 81 % E3 % 83 % 95 % E3 % 82 % a3 % E3 % 83 % E3 % 82 % B7 % E3 % 83 % B3 % E3 % 82 % B3 % E3 % 82 % b5 % E3 % E3 % 82 % E3 % 82 % 82 % 82 % a3 % ab % e9 % 81 % 94 % E3 % 81 % 97 % E3 % 81 % a6 % E3 % 81 % 84 % E3 % 82 % 8b % E3 % 80 % 82 %0atargetedphishingemailsareong a year.whilemalicioussignalsfromattions % 20 edfilesormaliciousurlsinemailscanbedetectedbyconventionalmaresignaturesormachions 8c % 20 itischallengingtoidentifyhand-craftedsocialengineeringemailswhichdon % 26 amp % 3b % 23039 %3btcontainanymaliciouscouscododescodon oiceswittes % 20 tacks.% 20to % 20 tackle % 20 this % 20 problem % ef % BC % 8c % 20we fine-tune apre-trainedbertmodelbyreplachis oefficientlylearnsophisticatedreprister % 20 onsofthesyntaxandsemanticsofthenaturallanguage.our context-awarenetworkalsolsolearlearaguage een email % 26 amp % 3b % 23039 %3bschecontextrepresentationsbetweenemail % 26 amp % 3b % 23039 % 3bs % 20 contextfeaturesfresfromememail iny Bert % ef % BC % 89 achieves a87 % detectionrateascomparedtodistilbert % ef % BC %8cllieves % 20 andlogisticregresssionbasesbasesselinbasesesasesesesselion cand 54 % detectionratesatfalsepositiveratesof1% 25 % ef % BC % 8c % 20 respectively.ourmodelisalsofasterthancompetingtransfof alattackswhichdeliberatelyreplaccely % 0a5% E3 % 80 % 81 % 5b cl %5dwikilingua %3aanewbenchmarkdatasetforcross-lingualabstabstabststeliorablichiclicted ce % 20 dur mus % ef % BC % 8cc % 20 cardie % ef % BC % 8ck % 20 mckeown % 0a %5bcolumbiauniversitycornelluniversity % 5d % 0a % 0a % % E7 % B4 % 84 % E3 % 81 % AE % E6 % 96 % B0 % E3 % 81 % 81 % E5 % 9f % ba % ba % 96 wiki lingua % E3 % 80 % % 80 % E8 % aa % 9e % e9 % 96 % 93 % E6 % 8a % BD % E8 % B1 % a1 % E8 % a6 % 81 % E7 % B4 % 84 % E3 % 81 % AE % E5 % 9f % ba % 80 % 81 wikihow % E3 % 81 % 8b % E3 % 82 % 8918 % E3 % 81 % AE % E8 % A8 % 80 % E8 % aa % 9e % E3 % 81 % AE % E6 % 96 % 87 % E7 % AE 5 % 87 % ba % E3 % 81 % 97 % E3 % 81 % 9f % E3 % 80 % 82 wikihow % E3 % 81 % af % e9 % ab % 98 % E5 % 93 % 81 % E8 % B3 % aa % 3 % 83 % B3 % E3 % 83 % aa % E3 % 82 % BD % E3 % 83 % BC % E3 % 82 % B9 % E3 % 81 % a7 % E3 % 81 % 82 % E3 % 82 % 8a % E3 % 80 % E3 % 81 % 95 % E3 % 81 % be % E3 % 81 % 96 % E3 % 81 % be % 81 % E3 % 83 % 86 % aa % E3 % 83 % 83 % BC % E3 % 83 % 9e % E3 % 9e % E3 % E3 % aa 9b % E3 % 81 % 97 % E3 % 81 % a6 % E3 % 81 % 84 % E3 % 82 % 8b % E3 % 80 % 82 % 20 % E8 % A8 % 98 % E4 % ba % 8b % E5 % 86 % 86 % 86 % 86