کتاب امپراتوری داده: قدرت اطلاعات برای سازماندهی، کنترل و تسلط

معرفی کتاب | امپراتوری داده

Data Empire: The Power of Information to Organize, Control, and Dominate

روپیکا ریسام | انتشارات HarperCollins | 2026

داده در نگاه نخست چیزی ساده و بی‌طرف به نظر می‌رسد: عددی در یک جدول، نامی در یک فهرست، نشانی‌ای در یک پرونده، نتیجه یک آزمایش، رقم یک معامله یا گزارشی درباره جمعیت. اما اگر تاریخ تمدن را از زاویه داده و اطلاعات بازخوانی کنیم، تصویر کاملا متفاوتی پدیدار می‌شود. داده هرگز صرفاً مجموعه‌ای از اعداد و اطلاعات نبوده است. از همان زمانی که انسان شروع کرد به شمارش، ثبت، طبقه‌بندی و نگهداری اطلاعات، میان «دانستن» و «قدرت داشتن» رابطه‌ای شکل گرفت که به تدریج به یکی از مهم‌ترین پایه‌های سازمان اجتماعی تبدیل شد. هرچه جوامع پیچیده‌تر شدند، توانایی ثبت اطلاعات نیز اهمیت بیشتری پیدا کرد و در نهایت، اطلاعات از ابزاری برای به‌خاطر سپردن به ابزاری برای سازمان‌دهی، مدیریت، پیش‌بینی و کنترل تبدیل شد. در واقع، یکی از ویژگی‌های اساسی تمدن این است که جهان پیچیده را به واحدهای قابل‌فهم و قابل‌محاسبه تبدیل می‌کند. یک حکومت نمی‌تواند تمام افراد جامعه را با همه ویژگی‌ها، روابط، پیشینه‌ها و تفاوت‌هایشان به صورت مستقیم بشناسد؛ بنابراین آنها را به جمعیت، خانواده، مالیات‌دهنده، سرباز، کارگر، مالک، بدهکار یا شهروند تبدیل می‌کند. زمین نیز به قطعات، مرزها و مختصات تبدیل می‌شود؛ محصول به مقدار و وزن؛ نیروی کار به تعداد و ساعت؛ تجارت به قیمت و حساب؛ و جمعیت به عدد. این تبدیل جهان واقعی به واحدهای قابل‌شمارش، شرط اساسی اداره جوامع بزرگ است. اما در همین فرایند اتفاق مهمی رخ می‌دهد: چیزی که اندازه‌گیری می‌شود، لزوما تمام واقعیت نیست. هنگامی که انسان به یک عدد، طبقه یا برچسب تبدیل می‌شود، بخشی از پیچیدگی وجود او کنار گذاشته می‌شود. داده همیشه انتخاب می‌کند که چه چیزی دیده شود و چه چیزی نادیده بماند. به همین دلیل، هر نظام داده‌ای علاوه بر آنکه اطلاعات تولید می‌کند، نوعی تصویر از جهان نیز می‌سازد. این تصویر ممکن است برای اداره امور بسیار مفید باشد، اما هرگز خود جهان نیست.

این مسئله در مورد حکومت اهمیت ویژه‌ای دارد، زیرا حکومت برای اداره جامعه ابتدا باید بتواند جامعه را ببیند. جمعیتی که شمرده نشده، زمینی که نقشه‌برداری نشده، منابعی که ثبت نشده و فعالیت اقتصادی‌ای که اندازه‌گیری نشده، برای یک دستگاه اداری تا حدی نامرئی است. از این رو، تاریخ دولت را می‌توان تا اندازه‌ای تاریخ افزایش ظرفیت حکومت برای «دیدن» جامعه دانست. سرشماری، نقشه، ثبت مالکیت، اسناد مالیاتی، پرونده‌های قضایی و بایگانی‌های اداری، همه ابزارهایی برای افزایش این قابلیت بوده‌اند. در این معنا، قدرت سیاسی فقط از ارتش و قانون سرچشمه نمی‌گیرد؛ قدرت به توانایی شناختن، طبقه‌بندی‌کردن و هماهنگ‌کردن نیز وابسته است. یک حکومت هرچه اطلاعات بیشتری درباره قلمرو و جمعیت خود داشته باشد، توانایی بیشتری برای اعمال سیاست‌های خود خواهد داشت. به همین دلیل، می‌توان گفت برای کنترل جهان، ابتدا باید بتوان آن را به شکلی قابل‌مشاهده و قابل‌محاسبه درآورد. این اصل یکی از کلیدهای فهم تحول دولت مدرن است. دولت مدرن فقط به این دلیل قدرتمندتر از بسیاری از حکومت‌های گذشته نیست که ارتش بزرگ‌تر یا قوانین پیچیده‌تری دارد؛ بلکه از این جهت نیز قدرتمندتر است که ظرفیت بی‌سابقه‌ای برای جمع‌آوری، ذخیره، ترکیب و استفاده از اطلاعات دارد. هرچه دستگاه اداری گسترده‌تر شده، فاصله میان حکومت و زندگی روزمره مردم از نظر اطلاعاتی کمتر شده است. دولت امروزی می‌تواند تولد، مرگ، مالکیت، درآمد، تحصیل، سفر، سلامت، فعالیت اقتصادی و بسیاری از رفتارهای دیگر را در قالب پرونده‌ها و پایگاه‌های داده ثبت کند. در نتیجه، قدرت سیاسی بیش از گذشته به قدرت اطلاعاتی وابسته شده است.

این رابطه میان اطلاعات و قدرت در تاریخ امپراتوری‌ها اهمیت بیشتری پیدا می‌کند. امپراتوری‌های بزرگ با سرزمین‌هایی گسترده و جمعیت‌هایی متنوع روبه‌رو بودند و ارتش، هرچند برای فتح ضروری بود، به‌تنهایی برای اداره یک قلمرو وسیع کافی نبود. حکومت باید می‌دانست چه کسانی در آن سرزمین زندگی می‌کنند، چه مقدار زمین در اختیار دارند، چه چیزی تولید می‌کنند، چه میزان مالیات باید بپردازند، چه منابعی وجود دارد و مسیرهای ارتباطی چگونه است. بنابراین نقشه‌برداری، سرشماری، ثبت زمین و جمع‌آوری اطلاعات درباره جمعیت به بخش مهمی از سازوکار حکومت تبدیل شد. از این منظر، استعمار را نیز می‌توان علاوه بر تصرف نظامی و اقتصادی، نوعی تصرف اطلاعاتی دانست. سرزمینی که برای ساکنانش مجموعه‌ای پیچیده از روابط، خاطرات، مسیرها و معناهای محلی است، هنگامی که وارد دستگاه اداری قدرت استعماری می‌شود، به نقشه، مرز، شماره، طبقه و فهرست تبدیل می‌شود. مردم نیز ممکن است در قالب گروه‌های قومی، نژادی، دینی، اقتصادی یا اداری طبقه‌بندی شوند. چنین طبقه‌بندی‌هایی فقط برای شناخت نبودند؛ آنها می‌توانستند مبنای سیاست‌گذاری، مالیات‌گیری، تقسیم منابع، استخدام نیروی کار یا اعمال محدودیت قرار گیرند. به این ترتیب، یکی از ویژگی‌های مهم قدرت استعماری این بود که جهان‌های پیچیده و متنوع را به زبان ساده و قابل‌محاسبه بوروکراسی تبدیل می‌کرد. این فرایند در ظاهر نوعی شناخت بود، اما شناختی که با هدف اداره، استخراج منابع و اعمال قدرت پیوند داشت. نقشه فقط تصویری از سرزمین نبود؛ می‌توانست مقدمه تقسیم و تصرف آن باشد. سرشماری فقط تعداد مردم را مشخص نمی‌کرد؛ می‌توانست آنها را در طبقات اداری قرار دهد. ثبت مالکیت فقط اطلاعات اقتصادی نبود؛ می‌توانست شکل سنتی رابطه انسان با زمین را تغییر دهد. از این منظر، قدرت زمانی به بیشترین اثرگذاری می‌رسد که بتواند واقعیت را در قالب‌هایی بازتعریف کند که برای خود آن قدرت قابل استفاده باشد.

در همین‌جا یکی از مهم‌ترین ویژگی‌های داده آشکار می‌شود: داده فقط واقعیت را توصیف نمی‌کند؛ گاهی در ساختن واقعیت اجتماعی نیز نقش دارد. اگر گروهی در یک طبقه خاص قرار گیرد، آن طبقه‌بندی می‌تواند پیامدهای واقعی داشته باشد. اگر فردی در یک سامانه «پرخطر» شناخته شود، حتی اگر این ارزیابی صرفاً بر اساس مجموعه‌ای از شاخص‌ها باشد، ممکن است در دنیای واقعی با محدودیت روبه‌رو شود. اگر منطقه‌ای «فقیر» تعریف شود، منابع و سیاست‌های خاصی ممکن است به آن اختصاص پیدا کند. اگر فردی «بدهکار» ثبت شود، این واژه می‌تواند به محدودیت‌های اقتصادی واقعی منجر شود. بنابراین، فاصله میان یک برچسب در پایگاه داده و واقعیت زندگی انسان‌ها همیشه آن‌قدر زیاد نیست که تصور می‌کنیم. از اینجا می‌توان به یک اصل مهم رسید: آنچه قابل‌اندازه‌گیری است، بیش از آنچه اندازه‌گیری نمی‌شود، در معرض تصمیم‌گیری قرار می‌گیرد. سازمان‌ها معمولا درباره چیزهایی تصمیم می‌گیرند که بتوانند برای آنها شاخص، عدد یا معیار تعریف کنند و به همین دلیل، اندازه‌گیری صرفاً نتیجه تصمیم‌گیری نیست؛ گاهی مقدم بر آن است. چیزی ابتدا باید به یک متغیر تبدیل شود تا بتوان آن را وارد نظام تصمیم‌گیری کرد. مشکل از جایی آغاز می‌شود که تصور کنیم هر چیزی که قابل‌اندازه‌گیری است، لزوما مهم‌ترین چیز است. بسیاری از ویژگی‌های انسانی را نمی‌توان به‌سادگی در قالب عدد ثبت کرد: اعتماد، کرامت، تجربه، ترس، امید، روابط انسانی، احساس تعلق یا کیفیت زندگی. هنگامی که یک نظام اداری یا الگوریتمی مجبور می‌شود انسان را به مجموعه‌ای از شاخص‌ها تبدیل کند، بخش‌هایی از زندگی او ناگزیر حذف می‌شوند. این حذف ممکن است در ظاهر فنی و بی‌ضرر باشد، اما اگر تصمیم‌های مهم بر اساس همان داده‌ها گرفته شوند، پیامد آن می‌تواند عمیق باشد. در واقع، یکی از خطرهای پنهان جامعه داده‌ای این است که آنچه اندازه‌گیری نمی‌شود، به تدریج از میدان سیاست و تصمیم‌گیری نیز کنار گذاشته شود؛ نه به این دلیل که بی‌اهمیت است، بلکه صرفاً به این دلیل که اندازه‌گیری آن دشوارتر است.

از اینجا تفاوت میان «انسان واقعی» و «نسخه داده‌ای انسان» اهمیت پیدا می‌کند. هر فرد در جهان دیجیتال مجموعه‌ای از ردپاهای اطلاعاتی دارد: سابقه خرید، جست‌وجوها، موقعیت‌های مکانی، ارتباطات، سوابق مالی، علایق، رفتارهای آنلاین و ده‌ها نوع داده دیگر. این مجموعه هرگز خود فرد نیست، اما ممکن است در بسیاری از موقعیت‌ها جایگزین تصویر واقعی او شود. شرکتی که با فرد مواجه می‌شود، ممکن است بیشتر از آنکه با خود او مواجه باشد، با تصویری مواجه باشد که داده‌ها از او ساخته‌اند. این تغییر یکی از مهم‌ترین تحولات عصر دیجیتال است. در گذشته، برای شناخت یک فرد معمولا به مشاهده مستقیم، گفت‌وگو، اسناد و تجربه انسانی نیاز بود؛ امروز می‌توان فرد را از طریق داده‌هایش تحلیل کرد. یعنی شناخت انسان می‌تواند از یک فرایند انسانی به یک فرایند محاسباتی تبدیل شود. در چنین شرایطی، مسئله فقط حفظ حریم خصوصی نیست؛ مسئله عمیق‌تر، قدرت تعریف انسان است. اگر یک سامانه تصمیم بگیرد که فرد چه نوع مشتری‌ای است، چه میزان اعتبار دارد، چقدر احتمال دارد رفتاری خاص انجام دهد یا چه محتوایی باید ببیند، داده عملا وارد فرایند شکل‌دادن به زندگی او شده است. در این شرایط، انسان دیگر فقط تولیدکننده داده نیست؛ خود او نیز به موضوعی برای محاسبه تبدیل می‌شود. هر رفتار به یک نشانه، هر انتخاب به یک متغیر و هر ترجیح به یک احتمال تبدیل می‌شود. به این ترتیب، فرد ممکن است در جهان واقعی پیچیده، متناقض و در حال تغییر باشد، اما در جهان داده‌ای به مجموعه‌ای از ویژگی‌های نسبتاً ثابت تبدیل شود. این خطر زمانی بیشتر می‌شود که تصمیم‌گیرندگان به جای دیدن انسان، به نسخه داده‌ای او اعتماد کنند.

این تحول زمانی عمیق‌تر می‌شود که داده از ثبت گذشته به پیش‌بینی آینده حرکت کند. زمانی یک پرونده می‌گفت فرد چه کرده است؛ امروز یک الگوریتم می‌تواند بگوید فرد احتمالا چه خواهد کرد. زمانی داده برای ثبت واقعیت به کار می‌رفت؛ اکنون داده برای پیش‌بینی احتمال‌ها استفاده می‌شود. و هنگامی که پیش‌بینی وارد تصمیم‌گیری شود، مرز میان «پیش‌بینی» و «کنترل» بسیار باریک می‌شود. فرض کنیم الگوریتمی بر اساس مجموعه‌ای از داده‌ها احتمال یک رفتار را بالا ارزیابی کند. اگر سازمانی بر اساس همین احتمال با فرد متفاوت رفتار کند، پیش‌بینی می‌تواند به عاملی تبدیل شود که خودش رفتار آینده را شکل می‌دهد. در چنین شرایطی، یک چرخه ایجاد می‌شود: داده گذشته برای پیش‌بینی آینده استفاده می‌شود؛ پیش‌بینی بر رفتار انسان اثر می‌گذارد؛ رفتار جدید دوباره به داده تبدیل می‌شود و همان داده برای پیش‌بینی‌های بعدی مورد استفاده قرار می‌گیرد. این چرخه نشان می‌دهد که قدرت داده‌ای لزوما به معنای نظارت مستقیم نیست. ممکن است قدرت به جای آنکه انسان را وادار به انجام کاری کند، احتمال انجام آن کار را تغییر دهد. در این حالت، کنترل از شکل آشکار و دستوری خود فاصله می‌گیرد و به طراحی محیط تصمیم‌گیری تبدیل می‌شود. فرد هنوز احساس می‌کند انتخاب می‌کند، اما گزینه‌هایی که در برابر او قرار گرفته‌اند ممکن است بر اساس سابقه رفتاری و تحلیل الگوریتمی او از پیش مرتب شده باشند. این یکی از پیچیده‌ترین شکل‌های قدرت مدرن است، زیرا در آن اجبار آشکار جای خود را به هدایت نامرئی می‌دهد.

هوش مصنوعی این فرایند را به مرحله‌ای تازه می‌رساند. هوش مصنوعی بدون داده گسترده و ساختاریافته نمی‌تواند به شکل امروزی وجود داشته باشد و از همین رو، انقلاب هوش مصنوعی را نمی‌توان جدا از تاریخ طولانی ثبت و سازمان‌دهی اطلاعات فهمید. الگوریتم‌های پیشرفته امروز، در یک معنا، ادامه همان میل قدیمی انسان به یافتن الگو در جهان هستند؛ تفاوت در این است که ظرفیت ماشین‌ها برای پردازش اطلاعات به مراتب بیشتر شده است. در گذشته، انسان هزاران پرونده را می‌خواند و از میان آنها الگو پیدا می‌کرد؛ امروز یک سامانه می‌تواند میلیون‌ها یا میلیاردها داده را پردازش کند. همین افزایش مقیاس، ماهیت قدرت را نیز تغییر می‌دهد. اگر یک انسان در قضاوت خود اشتباه کند، دامنه خطا محدود است؛ اما اگر یک الگوریتم یک الگوی نادرست را در مقیاسی عظیم تکرار کند، همان خطا می‌تواند بر زندگی شمار زیادی از انسان‌ها اثر بگذارد. مسئله سوگیری الگوریتمی نیز دقیقا از همین‌جا اهمیت پیدا می‌کند. الگوریتم‌ها لزوما از تعصب‌های انسانی جدا نیستند؛ آنها بر اساس داده‌هایی آموزش می‌بینند که خود محصول تاریخ و جامعه‌اند. اگر داده‌های گذشته حاوی نابرابری، تبعیض یا حذف گروه‌هایی خاص باشند، الگوریتم ممکن است همان الگوها را بازتولید کند. حتی ممکن است این بازتولید از گذشته خطرناک‌تر باشد، زیرا تعصب قدیمی اکنون در قالب یک تصمیم محاسباتی ظاهر می‌شود و به همین دلیل، بی‌طرف‌تر و علمی‌تر به نظر می‌رسد. اینجا یک تناقض مهم شکل می‌گیرد: فناوری‌ای که قرار است تصمیم‌گیری را عینی‌تر کند، ممکن است در واقع نابرابری‌های قدیمی را با زبانی فنی و عددی دوباره تولید کند.

خطر چنین وضعیتی در این است که تصمیم الگوریتمی ممکن است بی‌طرف‌تر از تصمیم انسانی به نظر برسد. وقتی یک انسان درباره فردی قضاوت می‌کند، می‌توان درباره انگیزه، تجربه یا اشتباه او پرسش کرد؛ اما وقتی یک سامانه می‌گوید «داده‌ها نشان می‌دهند»، تصمیم خود را پشت زبان فنی پنهان می‌کند. عدد می‌تواند نوعی اقتدار ایجاد کند. چیزی که در قالب یک امتیاز، احتمال یا رتبه ارائه می‌شود، ممکن است بسیار قطعی‌تر از آن چیزی به نظر برسد که واقعا هست. از این منظر، یکی از مسائل بزرگ عصر داده، نه فقط جمع‌آوری اطلاعات، بلکه «اقتدار عدد» است. جامعه مدرن تمایل دارد به آنچه قابل‌ اندازه‌گیری است اعتماد کند، اما عدد نیز مانند هر شکل دیگری از شناخت، به انتخاب‌ها، فرض‌ها و روش‌های اندازه‌گیری وابسته است. داده می‌تواند بسیار دقیق باشد و در عین حال درباره پرسش اشتباهی پاسخ بدهد. ممکن است محاسبه کاملا صحیح باشد، اما چیزی را اندازه بگیرد که برای تصمیم مورد نظر مناسب نیست. بنابراین، دقت با حقیقت یکسان نیست. یک الگوریتم می‌تواند با دقت بالا چیزی را پیش‌بینی کند که اساسا معنای محدودی دارد. یک پایگاه داده می‌تواند اطلاعاتی بسیار دقیق درباره فردی داشته باشد و در عین حال تصویر کاملی از او ارائه ندهد. این تفاوت برای آینده هوش مصنوعی حیاتی است، زیرا هرچه تصمیم‌های بیشتری به سیستم‌های محاسباتی سپرده شوند، خطر اشتباه گرفتن «محاسبه‌پذیری» با «حقیقت» بیشتر می‌شود. شاید یکی از مهم‌ترین خطاهای عصر داده همین باشد که تصور کنیم هر مسئله‌ای که بتوان برای آن عدد ساخت، لزوما مسئله‌ای است که باید با عدد حل شود.

مسئله دیگر، مالکیت داده است. در جهان دیجیتال، انسان‌ها دائماً داده تولید می‌کنند، اما لزوما مالک واقعی ارزش ایجادشده از آن داده نیستند. کاربران با جست‌وجو، خرید، ارتباط، حرکت و استفاده از خدمات دیجیتال داده تولید می‌کنند. شرکت‌ها این داده‌ها را جمع‌آوری، ترکیب و تحلیل می‌کنند و از طریق آنها می‌توانند الگوهای رفتاری ارزشمندی استخراج کنند. بنابراین شکل تازه‌ای از اقتصاد شکل گرفته که در آن رفتار روزمره انسان‌ها به ماده اولیه تولید ارزش تبدیل می‌شود. در این نظام، قدرت فقط در داشتن داده نیست؛ در توانایی تبدیل داده به اطلاعات، اطلاعات به دانش و دانش به تصمیم است. ممکن است میلیاردها نفر داده تولید کنند، اما تنها تعداد محدودی از شرکت‌ها و نهادها توانایی پردازش و تحلیل آن داده‌ها را داشته باشند. همین مسئله می‌تواند نوعی تمرکز قدرت ایجاد کند که با شکل‌های سنتی قدرت متفاوت است. در گذشته، ثروت و زمین منابع اصلی تمرکز قدرت بودند؛ امروز زیرساخت محاسباتی، داده و توانایی تحلیل آنها نیز به منابع استراتژیک تبدیل شده‌اند. این وضعیت را می‌توان نوعی امپراتوری بدون مرز دانست. قدرت داده‌ای لزوما به قلمرو جغرافیایی، ارتش یا مرزهای سیاسی وابسته نیست. یک شرکت می‌تواند در کشوری مستقر باشد، داده شهروندان کشورهای دیگر را جمع‌آوری کند، آنها را در زیرساخت‌هایی در نقطه‌ای دیگر پردازش کند و بر اساس نتایج، رفتار میلیون‌ها نفر را تحت تاثیر قرار دهد. مرزهای جغرافیایی در برابر جریان داده همان معنایی را ندارند که در برابر حرکت ارتش داشتند. به همین دلیل، یکی از مسائل بنیادی آینده، مسئله حاکمیت داده است: چه کسی بر زیرساخت‌هایی کنترل دارد که اطلاعات مربوط به زندگی انسان‌ها در آنها ذخیره و پردازش می‌شود؟

این قدرت البته فقط متعلق به شرکت‌ها نیست. دولت‌ها نیز به شکل گسترده از داده برای مدیریت جمعیت، امنیت، مالیات، خدمات عمومی و نظارت استفاده می‌کنند. تفاوت اساسی امروز این است که مرز میان قدرت دولتی و قدرت شرکتی در حوزه داده گاهی بسیار باریک شده است. دولت‌ها به فناوری شرکت‌ها وابسته‌اند و شرکت‌ها نیز در محیط‌های سیاسی و حقوقی دولت‌ها فعالیت می‌کنند. در نتیجه، مسئله داده دیگر فقط مسئله حریم خصوصی فردی نیست؛ مسئله‌ای درباره ساختار قدرت در جامعه است. اگر دولت بتواند داده‌های فراوانی درباره شهروندان جمع‌آوری کند، ظرفیت بیشتری برای مدیریت و کنترل خواهد داشت. اگر شرکت‌های بزرگ بتوانند داده‌های رفتاری میلیون‌ها نفر را تحلیل کنند، آنها نیز به نوعی قدرت اجتماعی دست پیدا می‌کنند که ممکن است از مرزهای سنتی بازار فراتر رود. از همین رو، بحث درباره داده باید از سطح توصیه‌های فردی مانند «رمز عبور خود را قوی کنید» یا «اطلاعات شخصی‌تان را منتشر نکنید» فراتر برود. این توصیه‌ها مهم‌اند، اما مسئله اصلی ساختاری است: چه نهادی چه داده‌ای را جمع می‌کند، با چه هدفی، برای چه مدتی، با چه سطحی از نظارت و با چه امکان اعتراضی برای فرد؟ بدون پاسخ به این پرسش‌ها، حفاظت از داده صرفاً به مسئولیت فردی تبدیل می‌شود و ساختارهای بزرگ‌تر قدرت از دید پنهان می‌مانند.

در چنین شرایطی، آزادی فردی نیز معنای تازه‌ای پیدا می‌کند. آزادی فقط به معنای این نیست که کسی مستقیما به ما دستور ندهد. اگر رفتار ما دائما پیش‌بینی، رتبه‌بندی و هدایت شود، حتی بدون دستور مستقیم ممکن است انتخاب‌های ما تحت تاثیر قرار گیرند. تبلیغاتی که می‌بینیم، اطلاعاتی که دریافت می‌کنیم و گزینه‌هایی که در برابر ما قرار می‌گیرند می‌توانند بر اساس داده‌های قبلی شخصی‌سازی شوند. بنابراین، قدرت مدرن ممکن است کمتر به شکل اجبار مستقیم و بیشتر به شکل طراحی محیط انتخاب ظاهر شود. قدرت سنتی می‌گفت چه کاری باید انجام دهید؛ قدرت داده‌ای می‌تواند محیطی بسازد که در آن بعضی انتخاب‌ها محتمل‌تر از انتخاب‌های دیگر شوند. این تفاوت بسیار مهم است، زیرا انسان ممکن است همچنان احساس کند کاملا آزادانه انتخاب کرده است، در حالی که فضای انتخاب او تا حدی از پیش طراحی شده است. در اینجا مسئله فقط تبلیغات یا خرید نیست؛ این منطق می‌تواند به حوزه‌های سیاسی، فرهنگی و اجتماعی نیز گسترش یابد. اگر الگوریتم‌ها بتوانند تعیین کنند چه خبری بیشتر دیده شود، چه موضوعی برجسته شود یا چه محتوایی به چه کسی نشان داده شود، آنگاه کنترل اطلاعات می‌تواند به شکل غیرمستقیم بر شکل‌گیری افکار عمومی نیز اثر بگذارد. قدرت دیگر لزوما به معنای حذف اطلاعات نیست؛ گاهی کافی است اطلاعات خاصی بیشتر دیده شود و اطلاعات دیگری کمتر در معرض دید قرار گیرد.

با این حال، نباید به این نتیجه رسید که داده ذاتاًً ابزار سلطه است. داده می‌تواند ابزار شناخت، برنامه‌ریزی، درمان، آموزش، مقابله با فساد و حتی مبارزه با قدرت باشد. بسیاری از بی‌عدالتی‌هایی که در گذشته پنهان می‌ماندند، تنها زمانی آشکار شدند که امکان جمع‌آوری و تحلیل اطلاعات درباره آنها فراهم شد. داده می‌تواند به دولت کمک کند منابع را بهتر توزیع کند، به پزشک کمک کند بیماری را زودتر تشخیص دهد، به پژوهشگر امکان دهد الگوهای پیچیده را شناسایی کند و به جامعه مدنی امکان دهد ادعاهای قدرت را با شواهد به چالش بکشد. بنابراین مسئله اصلی، وجود داده نیست؛ مسئله ساختار قدرتی است که تعیین می‌کند داده چگونه تولید، مالکیت، تفسیر و استفاده شود. داده در یک جامعه دموکراتیک می‌تواند ابزار پاسخ‌گویی باشد و در یک ساختار اقتدارگرا می‌تواند ابزار نظارت. یک فناوری واحد می‌تواند در دو نظام سیاسی کاملا متفاوت، پیامدهای متفاوتی داشته باشد. بنابراین، راه‌حل نه حذف داده، بلکه ایجاد سازوکارهایی است که قدرت ناشی از داده را محدود، شفاف و پاسخ‌گو کنند.

در نتیجه، مسئله اخلاقی بزرگ عصر داده را می‌توان در چند پرسش بنیادی خلاصه کرد: چه کسی اطلاعات را جمع‌آوری می‌کند؟ چه چیزی را ثبت نمی‌کند؟ چه کسی حق دسترسی دارد؟ چه کسی حق تفسیر دارد؟ چه کسی از نتایج سود می‌برد؟ چه کسی در صورت اشتباه متضرر می‌شود؟ و مهم‌تر از همه، چه کسی می‌تواند به تصمیمی که بر اساس داده گرفته شده اعتراض کند؟ آخرین پرسش شاید از همه مهم‌تر باشد. در جهان انسانی، امکان اعتراض به تصمیم وجود دارد، زیرا معمولا تصمیم‌گیرنده مشخص است. اما اگر تصمیمی حاصل فرایندی پیچیده میان چند پایگاه داده، چند الگوریتم و چند نهاد باشد، مسئولیت ممکن است در میان شبکه‌ای از سیستم‌ها گم شود. انسان ممکن است با تصمیمی روبه‌رو شود که هیچ فرد مشخصی آن را نگرفته است، اما پیامدش مستقیما بر زندگی او اثر می‌گذارد. در چنین شرایطی، مسئله فقط این نیست که الگوریتم درست کار می‌کند یا نه؛ مسئله این است که چه کسی مسئول عملکرد آن است. اگر یک سامانه اشتباه کند، چه کسی باید پاسخ‌گو باشد؟ اگر داده نادرست باشد، چه کسی باید آن را اصلاح کند؟ اگر الگوریتم به فردی آسیب بزند، آیا فرد می‌تواند توضیح بخواهد؟ این پرسش‌ها در آینده اهمیت بیشتری پیدا خواهند کرد، زیرا هرچه سیستم‌های هوشمند بیشتر در تصمیم‌های اجتماعی و اقتصادی دخالت کنند، ضرورت پاسخ‌گویی نیز بیشتر خواهد شد.

در نهایت، تاریخ داده را می‌توان تاریخ انتقال تدریجی قدرت از «تجربه مستقیم» به «نمایش اطلاعاتی» دانست. انسان ابتدا جهان را می‌دید و درباره آن تصمیم می‌گرفت؛ سپس جهان را ثبت کرد و بر اساس ثبت‌های خود تصمیم گرفت؛ بعد این ثبت‌ها را به پایگاه‌های داده منتقل کرد و اکنون در حال ساختن سامانه‌هایی است که می‌توانند خودشان از میان این داده‌ها الگو استخراج کنند و پیشنهاد یا تصمیم ارائه دهند. این روند در ظاهر صرفاً افزایش کارایی است، اما در عمق خود پرسشی درباره جایگاه انسان مطرح می‌کند: اگر بخش فزاینده‌ای از شناخت و تصمیم‌گیری به ماشین‌ها واگذار شود، چه چیزی همچنان باید در قلمرو قضاوت انسانی باقی بماند؟ پاسخ به این پرسش بسیار مهم است، زیرا همه تصمیم‌ها را نمی‌توان صرفاً بر اساس احتمال و محاسبه گرفت. ممکن است یک الگوریتم بتواند احتمال یک رفتار را با دقت بالا پیش‌بینی کند، اما این به خودی خود به آن حق اخلاقی برای تصمیم‌گیری درباره سرنوشت انسان نمی‌دهد. محاسبه می‌تواند بگوید چه چیزی محتمل است؛ اما به تنهایی نمی‌تواند بگوید چه چیزی عادلانه، انسانی یا مطلوب است. این تفاوت میان «آنچه هست» و «آنچه باید باشد»، همچنان یکی از مهم‌ترین مرزهای میان محاسبه و قضاوت انسانی باقی خواهد ماند.

شاید مهم‌ترین درس این بحث این باشد که آینده داده فقط به فناوری وابسته نیست؛ به سیاست، قانون، اخلاق و تعریف ما از انسان نیز وابسته است. فناوری به خودی خود تصمیم نمی‌گیرد که داده باید ابزار خدمت باشد یا سلطه. ساختارهای اجتماعی و سیاسی هستند که چنین جهتی را تعیین می‌کنند. بنابراین مسئله آینده نه توقف داده و نه بازگشت به جهان پیشادیجیتال است؛ چنین بازگشتی عملا ممکن نیست. مسئله، ایجاد قواعدی است که مانع شود توانایی بی‌سابقه برای شناخت و پیش‌بینی انسان، به توانایی بی‌پاسخ‌گویی برای کنترل او تبدیل شود. اگر داده بتواند انسان را قابل مشاهده کند، باید سازوکاری نیز وجود داشته باشد که انسان بتواند صاحبان داده و تصمیم‌گیرندگان را مشاهده و پاسخ‌گو کند. اگر الگوریتم بتواند درباره انسان قضاوت کند، انسان نیز باید بتواند درباره الگوریتم، داده‌های آن و معیارهایش پرسش کند. اگر شرکت یا دولت بتواند از اطلاعات مربوط به شهروندان قدرت بسازد، باید محدودیت‌هایی نیز برای این قدرت وجود داشته باشد. به بیان دیگر، هرچه ظرفیت اطلاعاتی قدرت بیشتر می‌شود، ظرفیت نظارت بر قدرت نیز باید افزایش یابد؛ وگرنه جامعه‌ای شکل می‌گیرد که در آن شهروندان بیش از هر زمان دیگری برای حکومت‌ها و شرکت‌ها قابل مشاهده‌اند، اما خود قدرت کمتر از هر زمان دیگری قابل مشاهده و پاسخ‌گوست.

از این منظر، تاریخ اطلاعات در نهایت فقط تاریخ پیشرفت ابزارهای ثبت و محاسبه نیست؛ تاریخ دگرگونی مفهوم قدرت است. قدرت از توانایی اعمال زور به توانایی دیدن، شناختن، طبقه‌بندی‌کردن و پیش‌بینی‌کردن حرکت کرده است. امروزه قدرتمندترین نهادها لزوما آنهایی نیستند که بیشترین نیروی فیزیکی را در اختیار دارند، بلکه ممکن است آنهایی باشند که بیشترین توانایی را برای جمع‌آوری، ترکیب و تفسیر اطلاعات دارند. این تحول، مفهوم امپراتوری را نیز دگرگون کرده است. امپراتوری گذشته با تصرف زمین و منابع گسترش می‌یافت؛ قدرت جدید می‌تواند با تصرف جریان اطلاعات گسترش پیدا کند. ارزشمندترین قلمرو دیگر لزوما سرزمین نیست؛ ممکن است داده‌های مربوط به رفتار، نیازها، ترجیحات و روابط میلیون‌ها انسان باشد. به همین دلیل، رقابت آینده فقط بر سر منابع فیزیکی نخواهد بود؛ رقابت بر سر زیرساخت‌های اطلاعاتی، توانایی محاسباتی، الگوریتم‌ها و دسترسی به داده نیز اهمیت فزاینده‌ای خواهد داشت.

در نهایت، مهم‌ترین خطر در جامعه داده‌ای شاید این نباشد که ماشین‌ها بیش از حد درباره ما بدانند، بلکه این باشد که جامعه بیش از حد به چیزی که ماشین‌ها درباره ما می‌دانند اعتماد کند. انسان نباید به مجموعه‌ای از داده‌ها فروکاسته شود. داده می‌تواند بخشی از واقعیت انسان را ثبت کند، اما نمی‌تواند تمام معنای انسان را در خود جای دهد. هر نظامی که این تفاوت را فراموش کند، دیر یا زود با این خطر مواجه می‌شود که نقشه را با سرزمین، پرونده را با انسان و پیش‌بینی را با حقیقت اشتباه بگیرد. آینده هوش مصنوعی و جامعه داده‌ای نیز تا حد زیادی به همین تمایز وابسته است. فناوری زمانی در خدمت انسان باقی می‌ماند که ابزارهای اندازه‌گیری، طبقه‌بندی و پیش‌بینی هرگز جای خود انسان و قضاوت اخلاقی درباره او را نگیرند. تاریخ داده از شمارش و ثبت آغاز شد، اما اکنون به نقطه‌ای رسیده است که مسئله فقط دانستن بیشتر نیست؛ مسئله قدرتی است که از این دانستن حاصل می‌شود. پرسش نهایی، بنابراین، درباره داده نیست؛ درباره انسان و قدرت است: چه کسی حق دارد انسان‌ها را تعریف کند، چه کسی می‌تواند بر اساس این تعریف درباره آنها تصمیم بگیرد، چه کسی از این تصمیم سود می‌برد و چه کسی در برابر پیامدهای آن پاسخ‌گو خواهد بود؟ آینده جامعه داده‌ای در نهایت با پاسخ به همین پرسش‌ها تعیین خواهد شد.