نظریه اطلاعات[ ۱] ( انگلیسی: Information theory ) ، به مقداردهی ( Quantification ) ، ذخیره و انتقال اطلاعات می پردازد. این نظریه، مدلی ریاضی از شرایط و عوامل مؤثر در پردازش و انتقال اطلاعات ( داده ها ) به دست می دهد. تمرکز این نظریه بر محدودیت های بنیادین ارسال و پردازش اطلاعات است، و کمتر به چگونگی عملکرد و پیاده سازی روش های انتقال و پردازش اطلاعات می پردازد. پیدایش این نظریه در پی کارهای کلود شانون در ۱۹۴۸ بوده است.
نظریه اطلاعات مورد استفاده خاص مهندسان مخابرات است؛ هرچند برخی از مفاهیم آن در رشته های دیگری مانند روان شناسی، زبان شناسی، کتاب داری و اطلاع رسانی و علومِ شناختی ( Cognitive Sciences ) نیز استفاده می شود. [ ۲]
مفهوم اطلاعات که شانون پیش نهاد، از دیدگاه آمار و احتمال بوده و لزوماً با مفهوم رایج اطلاعات به معنی دانش یا دیگر استفاده های روزمره از آن در زبان محاوره مانند بازیابی اطلاعات، تحلیل اطلاعات، چهارراه اطلاعات و . . . یکی نیست. اگر چه نظریه اطلاعات بر رشته های دیگر مانند روان شناسی و فلسفه اثر گذاشته، اثرش به علت مشکل تبدیل مفهوم آماری اطلاعات به مفهوم معنایی دانش و محتوا، بیشتر القای احساسی مفهوم اطلاعات بوده است. [ ۳]
اختراع تلگراف و پس از آن تلفن، توجه به مفهوم اطلاعات و انتقال آن را افزایش داد. در ۱۸۴۴، ساموئل مورس خط تلگرافی میان واشینگتن و بالتیمور در آمریکا برپا کرد. مورس در ارسال اطلاعات به مشکلات الکتریکی عملی برخورد. او دریافت که خطوط انتقالی که زیرِ زمین کشیده شده اند مشکلات بیشتری از خطوط انتقال هوایی ( روی تیر ) دارند و این خود زمینه ای برای تحقیقات بعدی شد. پس از اختراع تلفن از سوی الکساندر گراهام بل در ۱۸۷۵ و گسترش آن، برخی به بررسی مشکلات انتقال اطلاعات پرداختند. بیشتر این تحقیقات از تبدیل فوریه استفاده می گرد، اما تمرکز آن ها بیشتر روی جنبه عملی و مهندسی موضوع بود. [ ۲]
نخستین بار در ۱۹۲۴، هری نایکوئیست در مقاله اش، «عوامل خاصی که بر سرعت تلگراف اثر می گذارند»، به نظریه اطلاعات پرداخت. او به بیشترین نرخ ارسال اطلاعات پی برد و فرمولی برای محاسبه آن پیش نهاد. کار مهم دیگر در آن زمان، مقاله «انتقال اطلاعات» در ۱۹۲۸ از سوی هارتلی بود که نخستین پایه های ریاضی نظریه اطلاعات را بنا گذاشت. [ ۲]
پیدایش واقعی نظریه اطلاعات را می توان به مقاله «نظریه ریاضی مخابرات» از کلود شانون نسبت داد. یکی از نکات اصلی مقاله شانون این بود که بررسی سیگنال های مخابراتی را باید از بررسی اطلاعاتی که دربردارند جدا کرد، در حالی که پیش از او چنین نبود. شانون همچنین به این توجه کرد که طول یک سیگنال همیشه متناسب با اطلاعات آن نیست. مثلاً نقل شده است که ویکتور هوگو در نامه ای به ناشرش، فقط «؟» نوشته بود، و در پاسخ نامه ای دریافت کرد که فقط «!» در آن بود. این دو نماد برای هر دو طرف معنی داشتند، هرچند از دید ناظری که معنی آن ها را نمی دانست، مبهم بودند. مثال دیگر، جمله ای طولانی است که به زبان فارسی نوشته شده است، ولی برای انگلیسی زبانی که فارسی نمی داند مفهومی ندارد. بدین سان شانون پیشنهاد کرد که مسئله ارسال سیگنال را از ارسال اطلاعات آن جدا کرده، و برای دومی مدلی ریاضی پیش نهاد. [ ۲]
این نوشته برگرفته از سایت ویکی پدیا می باشد، اگر نادرست یا توهین آمیز است، لطفا گزارش دهید: گزارش تخلفنظریه اطلاعات مورد استفاده خاص مهندسان مخابرات است؛ هرچند برخی از مفاهیم آن در رشته های دیگری مانند روان شناسی، زبان شناسی، کتاب داری و اطلاع رسانی و علومِ شناختی ( Cognitive Sciences ) نیز استفاده می شود. [ ۲]
مفهوم اطلاعات که شانون پیش نهاد، از دیدگاه آمار و احتمال بوده و لزوماً با مفهوم رایج اطلاعات به معنی دانش یا دیگر استفاده های روزمره از آن در زبان محاوره مانند بازیابی اطلاعات، تحلیل اطلاعات، چهارراه اطلاعات و . . . یکی نیست. اگر چه نظریه اطلاعات بر رشته های دیگر مانند روان شناسی و فلسفه اثر گذاشته، اثرش به علت مشکل تبدیل مفهوم آماری اطلاعات به مفهوم معنایی دانش و محتوا، بیشتر القای احساسی مفهوم اطلاعات بوده است. [ ۳]
اختراع تلگراف و پس از آن تلفن، توجه به مفهوم اطلاعات و انتقال آن را افزایش داد. در ۱۸۴۴، ساموئل مورس خط تلگرافی میان واشینگتن و بالتیمور در آمریکا برپا کرد. مورس در ارسال اطلاعات به مشکلات الکتریکی عملی برخورد. او دریافت که خطوط انتقالی که زیرِ زمین کشیده شده اند مشکلات بیشتری از خطوط انتقال هوایی ( روی تیر ) دارند و این خود زمینه ای برای تحقیقات بعدی شد. پس از اختراع تلفن از سوی الکساندر گراهام بل در ۱۸۷۵ و گسترش آن، برخی به بررسی مشکلات انتقال اطلاعات پرداختند. بیشتر این تحقیقات از تبدیل فوریه استفاده می گرد، اما تمرکز آن ها بیشتر روی جنبه عملی و مهندسی موضوع بود. [ ۲]
نخستین بار در ۱۹۲۴، هری نایکوئیست در مقاله اش، «عوامل خاصی که بر سرعت تلگراف اثر می گذارند»، به نظریه اطلاعات پرداخت. او به بیشترین نرخ ارسال اطلاعات پی برد و فرمولی برای محاسبه آن پیش نهاد. کار مهم دیگر در آن زمان، مقاله «انتقال اطلاعات» در ۱۹۲۸ از سوی هارتلی بود که نخستین پایه های ریاضی نظریه اطلاعات را بنا گذاشت. [ ۲]
پیدایش واقعی نظریه اطلاعات را می توان به مقاله «نظریه ریاضی مخابرات» از کلود شانون نسبت داد. یکی از نکات اصلی مقاله شانون این بود که بررسی سیگنال های مخابراتی را باید از بررسی اطلاعاتی که دربردارند جدا کرد، در حالی که پیش از او چنین نبود. شانون همچنین به این توجه کرد که طول یک سیگنال همیشه متناسب با اطلاعات آن نیست. مثلاً نقل شده است که ویکتور هوگو در نامه ای به ناشرش، فقط «؟» نوشته بود، و در پاسخ نامه ای دریافت کرد که فقط «!» در آن بود. این دو نماد برای هر دو طرف معنی داشتند، هرچند از دید ناظری که معنی آن ها را نمی دانست، مبهم بودند. مثال دیگر، جمله ای طولانی است که به زبان فارسی نوشته شده است، ولی برای انگلیسی زبانی که فارسی نمی داند مفهومی ندارد. بدین سان شانون پیشنهاد کرد که مسئله ارسال سیگنال را از ارسال اطلاعات آن جدا کرده، و برای دومی مدلی ریاضی پیش نهاد. [ ۲]
wiki: نظریه اطلاعات