<?xml version="1.0" encoding="utf-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.0 20120330//EN" "JATS-journalpublishing1.dtd">
<article article-type="research-article" dtd-version="1.0" xml:lang="ko" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<front>
<journal-meta>
<journal-id journal-id-type="publisher-id">KJORL</journal-id>
<journal-title-group>
<journal-title>Korean Journal of Otorhinolaryngology-Head and Neck Surgery</journal-title><abbrev-journal-title>Korean J Otorhinolaryngol-Head Neck Surg</abbrev-journal-title></journal-title-group>
<issn pub-type="ppub">2092-5859</issn>
<issn pub-type="epub">2092-6529</issn>
<publisher>
<publisher-name>Korean Society of Otorhinolaryngology-Head and Neck Surgery</publisher-name></publisher></journal-meta>
<article-meta>
<article-id pub-id-type="doi">10.3342/kjorl-hns.2023.00451</article-id>
<article-id pub-id-type="publisher-id">kjorl-hns-2023-00451</article-id>
<article-categories>
<subj-group subj-group-type="heading">
<subject>Original Article</subject>
<subj-group subj-group-type="heading">
<subject>Rhinology</subject>
</subj-group></subj-group></article-categories>
<title-group>
<article-title>Chat Generated Pre-Trained Transformer를 통해 얻은 알레르기 비염 정보를 믿을 수 있을까?</article-title>
<trans-title-group>
<trans-title xml:lang="en">Can We Trust the Information on Allergic Rhinitis From Chat Generated Pre-Trained Transformer?</trans-title>
</trans-title-group>
</title-group>
<contrib-group>
<contrib contrib-type="author">
<contrib-id contrib-id-type="orcid">http://orcid.org/0000-0003-2368-4524</contrib-id>
<name-alternatives>
<name name-style="western" xml:lang="en"><surname>Lee</surname><given-names>Sang Jae</given-names></name>
<name name-style="eastern" xml:lang="ko"><surname>이</surname><given-names>상재</given-names></name>
</name-alternatives>
<xref ref-type="aff" rid="af1-kjorl-hns-2023-00451"><sup>1</sup></xref>
</contrib>
<contrib contrib-type="author">
<contrib-id contrib-id-type="orcid">http://orcid.org/0000-0002-0616-7122</contrib-id>
<name-alternatives>
<name name-style="western" xml:lang="en"><surname>Choi</surname><given-names>Yoon Seok</given-names></name>
<name name-style="eastern" xml:lang="ko"><surname>최</surname><given-names>윤석</given-names></name>
</name-alternatives>
<xref ref-type="aff" rid="af1-kjorl-hns-2023-00451"><sup>1</sup></xref>
</contrib>
<contrib contrib-type="author">
<contrib-id contrib-id-type="orcid">http://orcid.org/0000-0002-0835-4060</contrib-id>
<name-alternatives>
<name name-style="western" xml:lang="en"><surname>Bae</surname><given-names>Chang Hoon</given-names></name>
<name name-style="eastern" xml:lang="ko"><surname>배</surname><given-names>창훈</given-names></name>
</name-alternatives>
<xref ref-type="aff" rid="af1-kjorl-hns-2023-00451"><sup>1</sup></xref>
</contrib>
<contrib contrib-type="author">
<contrib-id contrib-id-type="orcid">http://orcid.org/0000-0001-6642-8841</contrib-id>
<name-alternatives>
<name name-style="western" xml:lang="en"><surname>Song</surname><given-names>Si-Youn</given-names></name>
<name name-style="eastern" xml:lang="ko"><surname>송</surname><given-names>시연</given-names></name>
</name-alternatives>
<xref ref-type="aff" rid="af1-kjorl-hns-2023-00451"><sup>1</sup></xref>
</contrib>
<contrib contrib-type="author">
<contrib-id contrib-id-type="orcid">http://orcid.org/0000-0003-0501-966X</contrib-id>
<name-alternatives>
<name name-style="western" xml:lang="en"><surname>Kim</surname><given-names>Yong-Dae</given-names></name>
<name name-style="eastern" xml:lang="ko"><surname>김</surname><given-names>용대</given-names></name>
</name-alternatives>
<xref ref-type="aff" rid="af1-kjorl-hns-2023-00451"><sup>1</sup></xref>
<xref ref-type="aff" rid="af2-kjorl-hns-2023-00451"><sup>2</sup></xref>
</contrib>
<contrib contrib-type="author">
<contrib-id contrib-id-type="orcid">http://orcid.org/0000-0003-4017-4796</contrib-id>
<name-alternatives>
<name name-style="western" xml:lang="en"><surname>Na</surname><given-names>Hyung Gyun</given-names></name>
<name name-style="eastern" xml:lang="ko"><surname>나</surname><given-names>형균</given-names></name>
</name-alternatives>
<xref ref-type="corresp" rid="c1-kjorl-hns-2023-00451"/>
<xref ref-type="aff" rid="af1-kjorl-hns-2023-00451"><sup>1</sup></xref>
</contrib>
<aff-alternatives id="af1-kjorl-hns-2023-00451">
<aff xml:lang="en"><label>1</label>Department of Otorhinolaryngology-Head and Neck Surgery, College of Medicine, Yeungnam University, Daegu, <country>Korea</country></aff>
<aff xml:lang="ko"><label>1</label>영남대학교 의과대학 이비인후-두경부외과학교실</aff>
</aff-alternatives>
<aff-alternatives id="af2-kjorl-hns-2023-00451">
<aff xml:lang="en"><label>2</label>Regional Center for Respiratory Diseases, Yeungnam University Medical Center, Daegu, <country>Korea</country></aff>
<aff xml:lang="ko"><label>2</label>영남대학교병원 권역 호흡기 전문질환센터</aff>
</aff-alternatives>
</contrib-group>
<author-notes>
<corresp id="c1-kjorl-hns-2023-00451">Address for correspondence Hyung Gyun Na, MD, PhD Department of Otorhinolaryngology-Head and Neck Surgery, College of Medicine, Yeungnam University, 170 Hyeonchung-ro, Nam-gu, Daegu 42415, Korea Tel +82-53-620-3783 Fax +82-53-628-7884 E-mail <email>drnhk79@gmail.com</email></corresp>
</author-notes>
<pub-date pub-type="ppub">
<month>3</month>
<year>2024</year></pub-date>
<pub-date pub-type="epub">
<day>28</day>
<month>8</month>
<year>2023</year></pub-date>
<volume>67</volume>
<issue>3</issue>
<fpage>146</fpage>
<lpage>151</lpage>
<history>
<date date-type="received">
<day>22</day>
<month>04</month>
<year>2023</year></date>
<date date-type="rev-recd">
<day>19</day>
<month>05</month>
<year>2023</year></date>
<date date-type="accepted">
<day>22</day>
<month>05</month>
<year>2023</year></date>
</history>
<permissions>
<copyright-statement>Copyright &#x000a9; 2024  Korean Society of Otorhinolaryngology-Head and Neck Surgery</copyright-statement>
<copyright-year>2024</copyright-year>
<license>
<license-p>This is an open access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (<ext-link ext-link-type="uri" xlink:href="http://creativecommons.org/licenses/by-nc/4.0">http://creativecommons.org/licenses/by-nc/4.0</ext-link>), which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.</license-p></license></permissions>
<trans-abstract xml:lang="en">
<sec><title>Background and Objectives</title>
<p> Chat Generated Pre-Trained Transformer (ChatGPT) is a large language model, which allows consumers to get information with one simple question for free. There are few studies that reported the reliability and usefullness of ChatGPT in the field of otorhinolarynoglogy, so we would like to investigate the reliability of information about allergic rhinitis generated by ChatGPT.</p></sec>
<sec><title>Materials and Method</title>
<p>We asked ChatGPT 35 questions related to allergic rhinitis based on the textbook from Korean Society of Otorhinolaryngology-Head and Neck Surgery, the clinical guidelines of American Academy of Otolaryngology-Head and Neck Surgery, and the guidelines of Allergic Rhinitis and Its impact on Asthma, and recorded the generated answers. Five specialists from our department were shown the answers in a blind test to assess their reliability. Each question was rated either &#x02018;accurate&#x02019; or &#x02018;inaccurate,&#x02019; and if the contents were not found in the textbook or the guideline, it was rated as &#x02018;unreliable.&#x02019;</p></sec>
<sec><title>Results</title>
<p> Of the 35 questions, 26 (74%) were identified as &#x02018;accurate,&#x02019; 9 (26%) were &#x02018;inaccurate,&#x02019; and 0 (0%) were &#x02018;unreliable.&#x02019; Questions about epidemiology, causes, diagnosis, and prognosis were found to be more accurate than the average, whereas definitions and treatments were less accurate than the average.</p></sec>
<sec><title>Conclusion</title>
<p> The information about allergic rhinitis generated by ChatGPT was quite reliable, showing that ChatGPT can be helpful in understanding and treating the disease. It is necessary to use the developing medical artificial intelligence wisely.</p></sec>
</trans-abstract>
<kwd-group xml:lang="en">
<kwd>Allergy and immunology</kwd> 
<kwd>Artificial intelligence</kwd>
<kwd>ChatGPT</kwd>
<kwd>Data accuracy</kwd>
<kwd>Rhinitis, allergic</kwd>
</kwd-group>
</article-meta></front>
<body>
<sec sec-type="intro">
<title>서 론</title>
<p>우리는 소셜 네트워크, 유튜브, 인공지능 기술 등을 통해 의학을 포함한 다양한 정보에 손쉽게 접근 가능한 시대에 살고 있다. 이런 정보의 홍수 속에서 개인에게 의미있고 믿을 만한 정보를 찾고 이용하는 것이 중요하다. Chat Generated Pre-Trained Transformer (ChatGPT)는 대규모 언어 모델(large language model)로 방대한 데이터를 기계 학습(machine learning)을 통해 학습하고 정교한 글을 써내는 인공지능(artificial intelligence)이다&#x0005b;<xref ref-type="bibr" rid="b1-kjorl-hns-2023-00451">1</xref>&#x0005d;. ChatGPT는 에세이나 강연 대본 작성, 문헌 요약, 논문 작성, 컴퓨터 코드 작성, 통계분석 등 다양한 분야에서 활용되며 사회에 큰 영향을 미치고 있다. 최근에는 ChatGPT에 의해 작성된 초록이 표절검사기를 통과하였으며 독창성이 100%로 나타나 큰 화두가 되었다&#x0005b;<xref ref-type="bibr" rid="b2-kjorl-hns-2023-00451">2</xref>&#x0005d;. 단 한 번의 검색으로 소비자들에게 의학 정보를 편리하게 제공할 수 있지만 여전히 신뢰성에 의문이 있다&#x0005b;<xref ref-type="bibr" rid="b2-kjorl-hns-2023-00451">2</xref>,<xref ref-type="bibr" rid="b3-kjorl-hns-2023-00451">3</xref>&#x0005d;.</p>
<p>알레르기 비염은 외부 알레르겐에 노출된 후 비강 점막의 면역글로불린E (IgE)에 의해 매개되는 염증반응으로 정의되며, 전 세계적으로 인구의 10%-40%에서 나타난다&#x0005b;<xref ref-type="bibr" rid="b4-kjorl-hns-2023-00451">4</xref>&#x0005d;. 일차 의료기관에서 가장 흔한 질환들 중 하나로, 남녀노소 상관없이 환자들의 삶의 질을 저하시키는 질환이다&#x0005b;<xref ref-type="bibr" rid="b4-kjorl-hns-2023-00451">4</xref>&#x0005d;. 코막힘, 재채기, 비루, 가려움증이 알레르기 비염의 전형적인 4대 증상이며, 알레르기 피부반응검사 혹은 혈청 특이 IgE 항체검사를 통해 원인 항원과 증상의 인과관계를 증명할 수 있는 경우에 진단할 수 있다&#x0005b;<xref ref-type="bibr" rid="b5-kjorl-hns-2023-00451">5</xref>&#x0005d;. 많은 경우에서 인과관계 증명없이 증상만으로 알레르기 비염을 진단하고 치료하고 있으며, 알레르기 비염을 앓고 있다고 보고한 환자들이 실제로는 알레르기 비염으로 진단되지 않은 경우도 있었다&#x0005b;<xref ref-type="bibr" rid="b6-kjorl-hns-2023-00451">6</xref>&#x0005d;.</p>
<p>ChatGPT를 통한 의학적 정보의 신뢰도와 정확도를 평가하는 연구들이 보고되고 있으나 아직 이비인후과 분야에서 신뢰도와 정확도를 조사한 연구는 부족한 실정이다&#x0005b;<xref ref-type="bibr" rid="b7-kjorl-hns-2023-00451">7</xref>-<xref ref-type="bibr" rid="b9-kjorl-hns-2023-00451">9</xref>&#x0005d;. 알레르기 비염의 증가하는 유병률과 의료비용, 환자들의 삶의 질과 일상생활에 미치는 영향을 고려했을 때, 이에 대한 연구가 필요할 것으로 사료된다.</p>
<p>이에 본 문헌을 통해 ChatGPT를 통해 얻은 알레르기 비염에 대한 정보의 신뢰도에 대해 조사하고 보고하고자 한다.</p>
</sec>
<sec>
<title>재료 및 방법</title>
<p>저자들은 알레르기 비염의 정의(1, 2번 문항), 역학(3번 문항), 원인(3-7번 문항), 진단(8-15번 문항), 치료(16-33번 문항), 예후(34-35번 문항)에 관련한 35가지 질문들을 2018년도에 대한이비인후과학회에서 발행한 이비인후과학 교과서 개정 2판 14장 알레르기 비염의 병인과 진단&#x0005b;<xref ref-type="bibr" rid="b10-kjorl-hns-2023-00451">10</xref>&#x0005d;과 15장 알레르기 비염의 치료&#x0005b;<xref ref-type="bibr" rid="b11-kjorl-hns-2023-00451">11</xref>&#x0005d;, 2016년도에 개정된 Allergic Rhinitis and its Impact on Asthma (ARIA) 가이드라인&#x0005b;<xref ref-type="bibr" rid="b4-kjorl-hns-2023-00451">4</xref>&#x0005d;, American Academy of Otolaryngology-Head and Neck Surgery (AAO) 알레르기 비염 실전 가이드라인&#x0005b;<xref ref-type="bibr" rid="b12-kjorl-hns-2023-00451">12</xref>&#x0005d;을 기준으로 만들었다(<xref rid="t1-kjorl-hns-2023-00451" ref-type="table">Table 1</xref>). 각 질문들을 ChatGPT Mar 23 Version (Open AI, San Francisco, CA, USA)에 한국어로 3차례 입력하여 질문에 대한 대답들을 종합하여 기록하였다(<xref ref-type="supplementary-material" rid="SD1-kjorl-hns-2023-00451">Supplementary Material</xref> and <xref rid="f1-kjorl-hns-2023-00451" ref-type="fig">Fig. 1</xref>). 이 기록들을 ChatGPT에 대한 언급없이 맹검시험(blind test)을 통해 이비인후과 전문의 5명(10년 이상의 경력)에게 보여주고 정확도를 평가하도록 하였다. 평가자들은 각 질문에 대한 반응을 2018년도에 대한이비인후과학회에서 발행한 이비인후과학 교과서 개정 2판 14장 알레르기 비염의 병인과 진단&#x0005b;<xref ref-type="bibr" rid="b10-kjorl-hns-2023-00451">10</xref>&#x0005d;과 15장 알레르기 비염의 치료&#x0005b;<xref ref-type="bibr" rid="b11-kjorl-hns-2023-00451">11</xref>&#x0005d;, 2016년도에 개정된 ARIA 가이드라인&#x0005b;<xref ref-type="bibr" rid="b4-kjorl-hns-2023-00451">4</xref>&#x0005d;, AAO 알레르기 비염 실전 가이드라인&#x0005b;<xref ref-type="bibr" rid="b12-kjorl-hns-2023-00451">12</xref>&#x0005d;을 바탕으로 &#x02018;정확하다&#x02019;, &#x02018;부정확하다&#x02019;의 두 가지로 나누고, 교과서와 가이드라인에 없는 내용일 경우 &#x02018;신뢰할 수 없다&#x02019;로 평가하였다. &#x02018;정확하다&#x02019;는 문맥의 내용이 교과서와 가이드라인에 부합하는 경우, &#x02018;부정확하다&#x02019;는 문맥의 내용 중 3가지 이상 잘못된 것이 있을 때로 간주하였다.</p>
</sec>
<sec>
<title>결 과</title>
<p>35가지 질문 중 26가지 항목(74%)에서 &#x02018;정확하다&#x02019;, 9가지 항목(26%)에서 &#x02018;부정확하다&#x02019;, 0가지 항목(0%)에서 &#x02018;신뢰할 수 없다&#x02019;로 확인되었다(<xref rid="f2-kjorl-hns-2023-00451" ref-type="fig">Fig. 2</xref>). 각 답변에 대한 전문의 5명의 의견은 모두 동일하였다.</p>
<p>각 세부항목으로 나누면 정의는 2가지 질문 중 2가지 항목(100%)에서 &#x02018;부정확하다&#x02019;로 신뢰도가 전체 질문의 평균(74%)보다 낮았다. 역학에서는 1가지 질문 중 1가지 항목(100%)에서 &#x02018;정확하다&#x02019;로 신뢰도가 전체 질문의 평균(74%)보다 높았다. 원인은 4가지 중 질문 4가지 항목(100%)에서 &#x02018;정확하다&#x02019;로 신뢰도가 전체 질문의 평균(74%)보다 높았다. 진단은 8가지 질문 중 7가지 항목(87%)에서 &#x02018;정확하다&#x02019;, 1가지 항목(13%)에서 &#x02018;부정확하다&#x02019;로 신뢰도가 전체 질문의 평균(74%)보다 높았다. 치료는 18가지 질문 중 12가지 항목(67%)에서 &#x02018;정확하다&#x02019;, 6가지 항목(33%)에서 &#x02018;부정확하다&#x02019;로 확인되어 신뢰도가 질문의 평균(74%)보다 낮았다. 예후는 2가지 질문 중 2가지 항목(100%)에서 &#x02018;정확하다&#x02019;로 신뢰도가 전체 질문의 평균(76%)보다 높았다(<xref rid="f3-kjorl-hns-2023-00451" ref-type="fig">Fig. 3</xref>).</p>
</sec>
<sec sec-type="discussion">
<title>고 찰</title>
<p>ChatGPT를 통해 얻은 심혈관질환의 예방에 대한 의학 정보에서 84%의 높은 적절성를 보였다&#x0005b;<xref ref-type="bibr" rid="b8-kjorl-hns-2023-00451">8</xref>&#x0005d;. 간경화와 간세포암에서는 각각 79.1%와 74%의 정확도를 보였다&#x0005b;<xref ref-type="bibr" rid="b7-kjorl-hns-2023-00451">7</xref>&#x0005d;. 여러 과의 복합적인 의학 정보 180개의 질문에서 57.8%의 신뢰도를 보였다&#x0005b;<xref ref-type="bibr" rid="b9-kjorl-hns-2023-00451">9</xref>&#x0005d;. 이 연구를 통해서 ChatGPT를 통해 얻은 알레르기 비염의 신뢰도가 70% 이상 높게 나오는 것을 확인하였다. ChatGPT가 의사와 환자에게 신뢰도 높은 정보를 제공하고, 실제 의료 환경에서도 유용하게 사용할 수 있을 것으로 기대된다. 환자들이 손쉽게 병에 대한 세부 정보를 무료로 얻을 수 있어 의료접근성이 떨어지는 상황에서 도움을 줄 수 있다. 그리고 ChatGPT가 일반인 수준으로 이해할 수 있는 표현으로 적절한 답변을 제공하고 있기 때문에, 의사들이 환자들에게 설명할 때나 강의를 할 때, 또는 환자 교육용 자료 등으로 우수하게 사용될 수 있다.</p>
<p>의학 분야에서 인공지능의 유용성은 다양한 연구에서 보고되고 있다&#x0005b;<xref ref-type="bibr" rid="b13-kjorl-hns-2023-00451">13</xref>-<xref ref-type="bibr" rid="b15-kjorl-hns-2023-00451">15</xref>&#x0005d;. 미래의 의사를 양성하는 의학교육에서도 유용성이 보고되고 있으며&#x0005b;<xref ref-type="bibr" rid="b14-kjorl-hns-2023-00451">14</xref>&#x0005d;, 인공지능을 이용해서 환자를 교육하는 것이 환자의 의사결정을 도와주고 만족도를 높이는 것으로 보고되었다&#x0005b;<xref ref-type="bibr" rid="b15-kjorl-hns-2023-00451">15</xref>&#x0005d;. 다른 의료인공지능과 달리 ChatGPT는 대화하듯이 정보를 제공하여, 전문적인 서적이나 가이드라인보다 훨씬 이해하기 쉽고 신뢰도 있는 정보를 제공하는 장점이 있다&#x0005b;<xref ref-type="bibr" rid="b7-kjorl-hns-2023-00451">7</xref>&#x0005d;. 알레르기 비염 환자들에게 ChatGPT와 같은 인공지능을 통해서 환자와 의사 간의 정보의 비대칭을 줄여주고 함께 좋은 결과를 만들 수 있을 것으로 기대된다.</p>
<p>역학, 원인, 진단, 예후의 정보는 평균보다 신뢰도가 높은 반면, 정의와 치료에 대한 정보는 평균보다 신뢰도가 낮았다. Yeo 등&#x0005b;<xref ref-type="bibr" rid="b7-kjorl-hns-2023-00451">7</xref>&#x0005d;의 연구에서 기초적인 지식, 생활, 치료의 점수가 진단과 예방에 대한 정보보다 높은 것으로 나타났다. Johnson 등&#x0005b;<xref ref-type="bibr" rid="b9-kjorl-hns-2023-00451">9</xref>&#x0005d;의 연구에서 질문의 난이도가 쉬운 질문들이 어려운 질문보다 더 높은 신뢰도를 보였다. 본 연구에서 정의와 치료에서 신뢰도가 떨어지는 것은 정확한 가이드라인과 특수한 상황에 대해 구체적으로 질문했기 때문인 것으로 추정된다. ChatGPT를 사용할 때, 질문자가 어느 정도 지식을 가지고 개괄적인 내용에 대해 질문하는 것, 신뢰도에 의문이 있을 시 그 답변의 출처에 대해 한 번 더 질문 하는 것 등이 신뢰도를 높이는 방법이라고 저자들은 생각한다.</p>
<p>ChatGPT는 기존의 정보를 학습하고 그것을 바탕으로 정보를 제공하기 때문에, 교과서와 가이드라인에 없는 내용을 제공하지는 않았고, &#x02018;신뢰할 수 없다&#x02019;의 항목은 나타나지 않았다. 간경화에 대한 ChatGPT의 답변에서도 &#x02018;완전히 잘못된&#x02019;(completely incorrect)으로 평가된 문항은 없었다&#x0005b;<xref ref-type="bibr" rid="b7-kjorl-hns-2023-00451">7</xref>&#x0005d;. 하지만 아직 더 높은 수준의 정보를 제공하기 위해 양질의 정보를 분별하고 학습하는 능력에 발전이 필요하다.</p>
<p>ChatGPT의 높은 신뢰도에도 불구하고 몇가지 단점들도 존재하였다. 최신 가이드라인에서 제시하는 복합적인 약제 사용에 대한 정보들은 제공하지 못하고 있고, 동반된 질환, 소아, 임신 등의 특수 상황에 대한 복합적 이해는 떨어졌다. 간 질환에 대한 답변에서도 전체적인 신뢰도가 높게 나타나긴 하지만 전문성은 부족한 것으로 나타났다&#x0005b;<xref ref-type="bibr" rid="b7-kjorl-hns-2023-00451">7</xref>&#x0005d;. 수많은 언어를 통해 사용자에게 대답을 해주지만, 언어에 따라 정확도와 답변의 수준이 달라질 수 있다. 예를 들어, 알레르기 비염의 답변 중 코 블록과 같은 한국어와 영어가 섞인 이상한 표현이 있었다. 또한, 항히스타민제와 스테로이드 등을 실제 상품명을 예시로 들어 답변하였을 때, 비스타리스와 같이 실제 존재하지 않는 상품들도 있었고, 디펜히드라민이 디피헤나이드로 잘못 번역된 경우도 있었다. 실시간 학습을 통해 답변을 주기 때문에 똑같은 질문에 대해 답변이 조금씩 달라지는 것도 있었다.</p>
<p>의학에 대한 접근성이 높아짐에 따라, ChatGPT 뿐만 아니라 유튜브, 소셜미디어 등을 통한 정보의 신뢰도와 이용 가능성에 대한 보고들도 있다&#x0005b;<xref ref-type="bibr" rid="b16-kjorl-hns-2023-00451">16</xref>-<xref ref-type="bibr" rid="b18-kjorl-hns-2023-00451">18</xref>&#x0005d;. Remvig 등&#x0005b;<xref ref-type="bibr" rid="b17-kjorl-hns-2023-00451">17</xref>&#x0005d;은 알레르기 비염에 관한 유튜브 영상들 중 유용한 정보를 주는 영상은 절반도 되지 않는 것으로 보고하였다. 하지만 소셜 네트워크, 유튜브, ChatGPT 등이 부정확한 정보들을 제공할 수 있다고 단순히 부정하는 것이 적절한 태도는 아니다. 정보들을 검열하고 수준 높은 자료를 제공하여, 환자가 효과적인 의료 결정을 내릴 수 있도록 적절한 개입이 필요하다. 발전하는 기술들을 적절하게 이용한다면 환자의 이해도를 높이고, 치료결과를 좋게 할 수 있으며, 의사들의 업무를 줄여줄 수 있을 것으로 기대된다&#x0005b;<xref ref-type="bibr" rid="b16-kjorl-hns-2023-00451">16</xref>,<xref ref-type="bibr" rid="b18-kjorl-hns-2023-00451">18</xref>&#x0005d;.</p>
<p>코막힘, 재채기, 비루, 가려움증이 있는 환자들이 스스로 알레르기 비염으로 잘못 진단하는 경우들이 많다&#x0005b;<xref ref-type="bibr" rid="b6-kjorl-hns-2023-00451">6</xref>&#x0005d;. 유럽에서의 유병률 연구에서, 전체 인구의 19%에서 알레르기 비염을 앓고 있다고 알고 있었지만, 그중 의사에 의해 알레르기 비염으로 진단된 경우는 13%에 지나지 않았고, 실제로 병원에서 알레르기 비염으로 확진된 유병률은 17%-29%로 상이하게 나타났다&#x0005b;<xref ref-type="bibr" rid="b6-kjorl-hns-2023-00451">6</xref>&#x0005d;. 이처럼 환자들이 증상과 병력만으로 ChatGPT에 알레르기 비염에 대한 정보를 얻고 속단하여 스스로 치료하는 것이 아니라 반드시 병원에서 전문가에게 진찰과 검사를 받아보는 것이 중요하다. 특히, 알레르기 비염의 치료제들 중 하나인 항히스타민제와 항울혈제의 경우 의사의 처방없이 구매 가능한 일반의약품이기 때문에 더 큰 주의가 필요하고 의료인에게 상담이 필요하다.</p>
<p>본 연구의 몇 가지 제한점들도 존재하였다. 전체 질문의 수가 35개로 적었으며, 각 항목별로 질문의 수가 균등하게 배분되지 않아 항목별 평가와 분석이 부족할 수 있다. 이 연구를 바탕으로 추가적인 연구를 통해 ChatGPT에 의한 알레르기 비염의 정보 신뢰도와 정확도를 구체화하는 것이 필요할 것으로 사료된다. ChatGPT 답변의 신뢰도에 영향을 줄 수 있는 요소들이 어떤 것들이 있는지, 현명하게 질문하는 방법 등에 대한 심층적인 연구가 필요하다.</p>
<p>결론적으로, 의료 인공지능을 이용한 ChatGPT를 통해 얻은 알레르기 비염의 정보는 비교적 신뢰도가 높았다. 다양한 매체들을 통해 양질의 정보가 제공되면 알레르기 비염의 치료에서 환자와 의사에게 많은 도움을 줄 수 있을 것으로 기대된다. 발전하는 의료 인공지능을 경쟁자로 여기고 대결하려 하지말고 현명하게 활용하는 것이 필요하다. 다양한 분야에서 ChatGPT의 신뢰성 및 발전가능성에 대한 연구는 꾸준히 필요할 것으로 사료된다.</p>
</sec>
</body>
<back>
<sec sec-type="supplementary-material"><title>Supplementary Material</title>
<p>The Data Supplement is available with this article at <ext-link xlink:href="https://doi.org/10.3342/kjorl-hns.2023.00451" ext-link-type="uri">https://doi.org/10.3342/kjorl-hns.2023.00451</ext-link>.</p>
<supplementary-material content-type="loca-data" id="SD1-kjorl-hns-2023-00451">
<p><bold>Supplementary Material</bold> ChatGPT를 통해 얻은 알레르기 비염 관련 질문과 답변들</p>
<media mimetype="application" mime-subtype="pdf" xlink:href="kjorl-hns-2023-00451-Supplementary.pdf"/></supplementary-material>
</sec>
<ack><p>None</p></ack>
<fn-group>
<fn fn-type="participating-researchers"><p><bold>Author contributions</bold></p>
<p>Conceptualization: Sang Jae Lee, Hyung Gyun Na. Data curation: Sang Jae Lee, Hyung Gyun Na. Formal analysis: Chang Hoon Bae, Yoon Seok Choi. Investigation: Yong-Dae Kim, Si-Youn Song. Methodology: Sang Jae Lee, Hyung Gyun Na. Supervision: Hyung Gyun Na, Yong-Dae Kim. Visualization: Sang Jae Lee, Hyung Gyun Na. Writing&#x02014;original draft: Sang Jae Lee. Writing&#x02014;review &amp; editing: Sang Jae Lee, Hyung Gyun Na.</p></fn>
</fn-group>
<ref-list>
<title>REFERENCES</title>
<ref id="b1-kjorl-hns-2023-00451">
<label>1</label>
<element-citation publication-type="web">
<comment>OpenAI. ChatGPT: Optimizing language models for dialogue [online] [cited 2023 Mar 23]. Available from: <ext-link xlink:href="https://openai.com/blog/chatgpt/" ext-link-type="uri">https://openai.com/blog/chatgpt/</ext-link></comment>
</element-citation></ref>
<ref id="b2-kjorl-hns-2023-00451">
<label>2</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Else</surname><given-names>H</given-names></name>
</person-group>
<article-title>Abstracts written by ChatGPT fool scientists</article-title>
<source>Nature</source>
<year>2023</year>
<volume>613</volume>
<issue>7944</issue>
<fpage>423</fpage>
</element-citation></ref>
<ref id="b3-kjorl-hns-2023-00451">
<label>3</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>van Dis</surname><given-names>EAM</given-names></name>
<name><surname>Bollen</surname><given-names>J</given-names></name>
<name><surname>Zuidema</surname><given-names>W</given-names></name>
<name><surname>van Rooij</surname><given-names>R</given-names></name>
<name><surname>Bockting</surname><given-names>CL</given-names></name>
</person-group>
<article-title>ChatGPT: Five priorities for research</article-title>
<source>Nature</source>
<year>2023</year>
<volume>614</volume>
<issue>7947</issue>
<fpage>224</fpage>
<lpage>6</lpage>
</element-citation></ref>
<ref id="b4-kjorl-hns-2023-00451">
<label>4</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Bro&#x0017c;ek</surname><given-names>JL</given-names></name>
<name><surname>Bousquet</surname><given-names>J</given-names></name>
<name><surname>Agache</surname><given-names>I</given-names></name>
<name><surname>Agarwal</surname><given-names>A</given-names></name>
<name><surname>Bachert</surname><given-names>C</given-names></name>
<name><surname>BosnicAnticevich</surname><given-names>S</given-names></name>
<etal/>
</person-group>
<article-title>Allergic rhinitis and its impact on asthma (ARIA) guidelines-2016 revision</article-title>
<source>J Allergy Clin Immunol</source>
<year>2017</year>
<volume>140</volume>
<issue>4</issue>
<fpage>950</fpage>
<lpage>8</lpage>
</element-citation></ref>
<ref id="b5-kjorl-hns-2023-00451">
<label>5</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Kim</surname><given-names>YH</given-names></name>
<name><surname>Yang</surname><given-names>HJ</given-names></name>
<name><surname>Choi</surname><given-names>JH</given-names></name>
<name><surname>Kim</surname><given-names>DK</given-names></name>
<name><surname>Yoo</surname><given-names>Y</given-names></name>
<name><surname>Lee</surname><given-names>B</given-names></name>
<etal/>
</person-group>
<article-title>Clinical diagnostic guidelines for allergic rhinitis: Diagnosis</article-title>
<source>J Korean Med Assoc</source>
<year>2017</year>
<volume>60</volume>
<issue>1</issue>
<fpage>81</fpage>
<lpage>8</lpage>
</element-citation></ref>
<ref id="b6-kjorl-hns-2023-00451">
<label>6</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Bauchau</surname><given-names>V</given-names></name>
<name><surname>Durham</surname><given-names>SR</given-names></name>
</person-group>
<article-title>Prevalence and rate of diagnosis of allergic rhinitis in Europe</article-title>
<source>Eur Respir J</source>
<year>2004</year>
<volume>24</volume>
<issue>5</issue>
<fpage>758</fpage>
<lpage>64</lpage>
</element-citation></ref>
<ref id="b7-kjorl-hns-2023-00451">
<label>7</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Yeo</surname><given-names>YH</given-names></name>
<name><surname>Samaan</surname><given-names>JS</given-names></name>
<name><surname>Ng</surname><given-names>WH</given-names></name>
<name><surname>Ting</surname><given-names>PS</given-names></name>
<name><surname>Trivedi</surname><given-names>H</given-names></name>
<name><surname>Vipani</surname><given-names>A</given-names></name>
<etal/>
</person-group>
<article-title>Assessing the performance of ChatGPT in answering questions regarding cirrhosis and hepatocellular carcinoma</article-title>
<source>Clin Mol Hepatol</source>
<year>2023</year>
<volume>29</volume>
<issue>3</issue>
<fpage>721</fpage>
<lpage>32</lpage>
</element-citation></ref>
<ref id="b8-kjorl-hns-2023-00451">
<label>8</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Sarraju</surname><given-names>A</given-names></name>
<name><surname>Bruemmer</surname><given-names>D</given-names></name>
<name><surname>Van Iterson</surname><given-names>E</given-names></name>
<name><surname>Cho</surname><given-names>L</given-names></name>
<name><surname>Rodriguez</surname><given-names>F</given-names></name>
<name><surname>Laffin</surname><given-names>L</given-names></name>
</person-group>
<article-title>Appropriateness of cardiovascular disease prevention recommendations obtained from a popular online chat-based artificial intelligence model</article-title>
<source>JAMA</source>
<year>2023</year>
<volume>329</volume>
<issue>10</issue>
<fpage>842</fpage>
<lpage>4</lpage>
</element-citation></ref>
<ref id="b9-kjorl-hns-2023-00451">
<label>9</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Johnson</surname><given-names>D</given-names></name>
<name><surname>Goodman</surname><given-names>R</given-names></name>
<name><surname>Patrinely</surname><given-names>J</given-names></name>
<name><surname>Stone</surname><given-names>C</given-names></name>
<name><surname>Zimmerman</surname><given-names>E</given-names></name>
<name><surname>Donald</surname><given-names>R</given-names></name>
<etal/>
</person-group>
<article-title>Assessing the accuracy and reliability of AI-generated medical responses: An evaluation of the Chat-GPT model</article-title>
<source>Res Sq [Preprint]</source>
<year>2023</year>
<comment>[cited 2023 Feb 28]. Available at: <ext-link xlink:href="https://doi.org/10.21203/rs.3.rs-2566942/v1" ext-link-type="uri">https://doi.org/10.21203/rs.3.rs-2566942/v1</ext-link></comment>
</element-citation></ref>
<ref id="b10-kjorl-hns-2023-00451">
<label>10</label>
<element-citation publication-type="book">
<comment>Lee BJ, Jung YJ. Etiology and diagnosis of allergic rhinitis. In: Korean Society of Otorhinolaryngology-Head and Neck Surgery, editor. Otorhinolaryngology-Head and Neck Surgery. 2nd ed. Paju: Koonja Publishing Inc;2018. p237-247</comment>
</element-citation></ref>
<ref id="b11-kjorl-hns-2023-00451">
<label>11</label>
<element-citation publication-type="book">
<comment>Kim SH, Kim TH. Treatment of allergic rhinitis. In: Korean Society of Otorhinolaryngology-Head and Neck Surgery, editor. Otorhinolaryngology-Head and Neck Surgery. 2nd ed. Paju: Koonja Publishing Inc.;2018. p.249-69</comment>
</element-citation></ref>
<ref id="b12-kjorl-hns-2023-00451">
<label>12</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Seidman</surname><given-names>MD</given-names></name>
<name><surname>Gurgel</surname><given-names>RK</given-names></name>
<name><surname>Lin</surname><given-names>SY</given-names></name>
<name><surname>Schwartz</surname><given-names>SR</given-names></name>
<name><surname>Baroody</surname><given-names>FM</given-names></name>
<name><surname>Bonner</surname><given-names>JR</given-names></name>
<etal/>
</person-group>
<article-title>Clinical practice guideline: Allergic rhinitis</article-title>
<source>Otolaryngol Head Neck Surg</source>
<year>2015</year>
<volume>152</volume>
<issue>1 Suppl</issue>
<fpage>S1</fpage>
<lpage>43</lpage>
</element-citation></ref>
<ref id="b13-kjorl-hns-2023-00451">
<label>13</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Hamet</surname><given-names>P</given-names></name>
<name><surname>Tremblay</surname><given-names>J</given-names></name>
</person-group>
<article-title>Artificial intelligence in medicine</article-title>
<source>Metabolism</source>
<year>2017</year>
<volume>69S</volume>
<fpage>S36</fpage>
<lpage>40</lpage>
</element-citation></ref>
<ref id="b14-kjorl-hns-2023-00451">
<label>14</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Han</surname><given-names>ER</given-names></name>
<name><surname>Yeo</surname><given-names>S</given-names></name>
<name><surname>Kim</surname><given-names>MJ</given-names></name>
<name><surname>Lee</surname><given-names>YH</given-names></name>
<name><surname>Park</surname><given-names>KH</given-names></name>
<name><surname>Roh</surname><given-names>H</given-names></name>
</person-group>
<article-title>Medical education trends for future physicians in the era of advanced technology and artificial intelligence: An integrative review</article-title>
<source>BMC Med Educ</source>
<year>2019</year>
<volume>19</volume>
<issue>1</issue>
<fpage>460</fpage>
</element-citation></ref>
<ref id="b15-kjorl-hns-2023-00451">
<label>15</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Jayakumar</surname><given-names>P</given-names></name>
<name><surname>Moore</surname><given-names>MG</given-names></name>
<name><surname>Furlough</surname><given-names>KA</given-names></name>
<name><surname>Uhler</surname><given-names>LM</given-names></name>
<name><surname>Andrawis</surname><given-names>JP</given-names></name>
<name><surname>Koenig</surname><given-names>KM</given-names></name>
<etal/>
</person-group>
<article-title>Comparison of an artificial intelligence&#x02013;enabled patient decision aid vs educational material on decision quality, shared decision-making, patient experience, and functional outcomes in adults with knee osteoarthritis: A randomized clinical trial</article-title>
<source>JAMA Netw Open</source>
<year>2021</year>
<volume>4</volume>
<issue>2</issue>
<fpage>e2037107</fpage>
</element-citation></ref>
<ref id="b16-kjorl-hns-2023-00451">
<label>16</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Dimov</surname><given-names>V</given-names></name>
<name><surname>Eidelman</surname><given-names>F</given-names></name>
</person-group>
<article-title>Utilizing social networks, blogging and YouTube in allergy and immunology practices</article-title>
<source>Expert Rev Clin Immunol</source>
<year>2015</year>
<volume>11</volume>
<issue>10</issue>
<fpage>1065</fpage>
<lpage>8</lpage>
</element-citation></ref>
<ref id="b17-kjorl-hns-2023-00451">
<label>17</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Remvig</surname><given-names>CL</given-names></name>
<name><surname>Diers</surname><given-names>CS</given-names></name>
<name><surname>Meteran</surname><given-names>H</given-names></name>
<name><surname>Thomsen</surname><given-names>SF</given-names></name>
<name><surname>Sigsgaard</surname><given-names>T</given-names></name>
<name><surname>H&#x000f8;j</surname><given-names>S</given-names></name>
<etal/>
</person-group>
<article-title>YouTube as a source of (mis)information on allergic rhinitis</article-title>
<source>Ann Allergy Asthma Immunol</source>
<year>2022</year>
<volume>129</volume>
<issue>5</issue>
<fpage>612</fpage>
<lpage>7</lpage>
</element-citation></ref>
<ref id="b18-kjorl-hns-2023-00451">
<label>18</label>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name><surname>Madathil</surname><given-names>KC</given-names></name>
<name><surname>Rivera-Rodriguez</surname><given-names>AJ</given-names></name>
<name><surname>Greenstein</surname><given-names>JS</given-names></name>
<name><surname>Gramopadhye</surname><given-names>AK</given-names></name>
</person-group>
<article-title>Healthcare information on YouTube: A systematic review</article-title>
<source>Health Informatics J</source>
<year>2014</year>
<volume>21</volume>
<issue>3</issue>
<fpage>173</fpage>
<lpage>94</lpage>
</element-citation></ref></ref-list>
<sec sec-type="display-objects">
<title>Figures and Table</title>
<fig id="f1-kjorl-hns-2023-00451" position="float">
<label>Fig. 1.</label><caption><p>Example of questions and answers about the allergic rhinitis obtained from Chat Generated Pre-Trained Transformer.</p></caption>
<graphic xlink:href="kjorl-hns-2023-00451f1.tif"/></fig>
<fig id="f2-kjorl-hns-2023-00451" position="float">
<label>Fig. 2.</label><caption><p>Reliability of the responses of allergic rhinitis from Chat Generated Pre-Trained Transformer. n, number of questions.</p></caption>
<graphic xlink:href="kjorl-hns-2023-00451f2.tif"/></fig>
<fig id="f3-kjorl-hns-2023-00451" position="float">
<label>Fig. 3.</label><caption><p>Reliability of the responses of allergic rhinitis from Chat Generated Pre-Trained Transformer based on the classifications. Red line indicates the average reliability in whole questions. A, accurate; I, inaccurate; U, unreliable; n, number of questions.</p></caption>
<graphic xlink:href="kjorl-hns-2023-00451f3.tif"/></fig>

<table-wrap id="t1-kjorl-hns-2023-00451" position="float">
<label>Table 1.</label>
<caption><p>Questions to Chat Generated Pre-Trained Transformer about the allergic rhinitis</p></caption>
<table rules="groups" frame="hsides">
<thead><tr>
<th align="center" valign="middle">번호</th>
<th align="center" valign="middle">분류</th>
<th align="center" valign="middle">질문</th>
<th align="center" valign="middle">신뢰도</th>
</tr></thead>
<tbody>
<tr>
<td valign="top" align="center">1</td>
<td valign="top" align="center">정의</td>
<td valign="top" align="left">알레르기 비염의 정의</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">2</td>
<td valign="top" align="center">정의</td>
<td valign="top" align="left">알레르기 비염의 ARIA 가이드라인에 따른 분류</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">3</td>
<td valign="top" align="center">역학</td>
<td valign="top" align="left">알레르기 비염의 유병률</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">4</td>
<td valign="top" align="center">원인</td>
<td valign="top" align="left">알레르기 비염의 원인</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">5</td>
<td valign="top" align="center">원인</td>
<td valign="top" align="left">알레르기 비염의 가족력</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">6</td>
<td valign="top" align="center">원인</td>
<td valign="top" align="left">알레르기 비염의 유발인자</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">7</td>
<td valign="top" align="center">원인</td>
<td valign="top" align="left">알레르기 비염의 주요항원</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">8</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염의 진단</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">9</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염의 증상</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">10</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염에서 병력 청취의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">11</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염에서 비강 검진의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">12</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염에서 혈액 검사의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">13</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염에서 피부반응검사의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">14</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염에서 비세포검사의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">15</td>
<td valign="top" align="center">진단</td>
<td valign="top" align="left">알레르기 비염에서 유발검사의 필요성</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">16</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염의 치료</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">17</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염의 ARIA 가이드라인에 따른 치료</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">18</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 회피요법의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">19</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 전신적 항히스타민제의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">20</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 비강 내 항히스타민제의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">21</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 전신적 스테로이드의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">22</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 비강 내 스테로이드의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">23</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 류코트리엔 수용체 길항제의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">24</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 전신적 항울혈제의 필요성</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">25</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 비강 내 항울혈제의 필요성</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">26</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 비강 내 비만세포 안정제의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">27</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 피하면역요법의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">28</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 설하면역요법의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">29</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염에서 수술적 치료의 필요성</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">30</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">소아에서 알레르기 비염의 치료</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">31</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">임산부에서 알레르기 비염의 치료</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">32</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">운동선수에서 알레르기 비염의 치료</td>
<td valign="top" align="left">부정확하다</td>
</tr>
<tr>
<td valign="top" align="center">33</td>
<td valign="top" align="center">치료</td>
<td valign="top" align="left">알레르기 비염의 생물학적 제제 치료</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">34</td>
<td valign="top" align="center">예후</td>
<td valign="top" align="left">알레르기 비염의 예후</td>
<td valign="top" align="left">정확하다</td>
</tr>
<tr>
<td valign="top" align="center">35</td>
<td valign="top" align="center">예후</td>
<td valign="top" align="left">알레르기 비염의 합병증</td>
<td valign="top" align="left">정확하다</td>
</tr>
</tbody></table>
<table-wrap-foot>
<fn><p>ARIA, Allergic Rhinitis and its Impact on Asthma</p></fn>
</table-wrap-foot>
</table-wrap>
</sec>
</back></article>