Les ordinateurs vont-ils nous dominer ?

יוּבַל נֹחַ הֲרָרִי, הִיסְטוֹרְיוֹן בָּאוּנִיבֶרְסִיטָה הָעִבְרִית בִּירוּשָׁלַיִם וּמְחַבֵּר רַב-הַמֶּכֶר הָעוֹלָמִי "קִיצּוּר תּוֹלְדוֹת הָאֱנוֹשׁוּת" (Sapiens), נֶחְשָׁב לְאֶחָד מֵהוֹגֵי הַדֵּעוֹת הַמַּשְׁפִּיעִים בְּיוֹתֵר בָּעוֹלָם בְּיָמֵינוּ. בַּשָּׁנִים הָאַחֲרוֹנוֹת, בִּמְקוֹם לַעֲסוֹק בֶּעָבָר שֶׁל הָאֱנוֹשׁוּת, הֲרָרִי מַקְדִּישׁ אֶת רוֹב זְמַנּוֹ לְהַזְהִיר אֶת הַצִּיבּוּר וְהַמַּנְהִיגִים מִפְּנֵי הֶעָתִיד – וּבִמְיוּחָד מִפְּנֵי הַהִתְפַּתְּחוּת הַמְּהִירָה שֶׁל הַבִּינָה הַמְּלָאכוּתִית (AI). לְטַעֲנָתוֹ, אֲנַחְנוּ נִמְצָאִים בִּנְקוּדַּת מִפְנֶה הִיסְטוֹרִית שֶׁבָּהּ הַמִּין הָאֱנוֹשִׁי עָלוּל לְאַבֵּד אֶת הַשְּׁלִיטָה עַל הֶעָתִיד שֶׁלּוֹ.

כְּדֵי לְהָבִין לָמָּה הֲרָרִי כָּל כָּךְ מוּדְאָג, צָרִיךְ לְהָבִין אֶת הַהֶבְדֵּל שֶׁהוּא עוֹשֶׂה בֵּין בִּינָה מְלָאכוּתִית לְבֵין כָּל הַמְצָאָה אַחֶרֶת בַּהִיסְטוֹרְיָה. עַד הַיּוֹם, כָּל הַטֶּכְנוֹלוֹגְיוֹת שֶׁהָאָדָם הִמְצִיא – מִסַּכִּין הָאֶבֶן הַקְּדוּמָה, דֶּרֶךְ מְכוֹנַת הַדְּפוּס וְעַד לְפִצְצַת הָאָטוֹם – הָיוּ רַק "כֵּלִים". סַכִּין לֹא יְכוֹלָה לְהַחְלִיט לְבַד אִם לַחְתּוֹךְ סָלָט אוֹ לִרְצוֹחַ אָדָם, וּמְכוֹנַת דְּפוּס לֹא יְכוֹלָה לִכְתּוֹב סְפָרִים בְּעַצְמָהּ; הֵן תָּמִיד דָּרְשׁוּ בֶּן אָדָם שֶׁיַּפְעִיל אוֹתָן וִיקַבֵּל אֶת הַהַחְלָטוֹת. הַבִּינָה הַמְּלָאכוּתִית, לְעוּמַּת זֹאת, הִיא לֹא עוֹד כְּלִי. הִיא "גּוֹרֵם" עַצְמָאִי. זוֹ הַטֶּכְנוֹלוֹגְיָה הָרִאשׁוֹנָה בַּהִיסְטוֹרְיָה שֶׁיְּכוֹלָה לְקַבֵּל הַחְלָטוֹת לְבַד, לִלְמוֹד מֵעַצְמָהּ וְלִיצוֹר רַעְיוֹנוֹת חֲדָשִׁים לְגַמְרֵי בְּלִי הִתְעָרְבוּת אֱנוֹשִׁית.

אֲבָל הַסַּכָּנָה הַמִּיָּידִית, לְפִי הֲרָרִי, הִיא לֹא תַּרְחִישׁ מַדָּע בִּדְיוֹנִי שֶׁבּוֹ רוֹבּוֹטִים עִם רוֹבִים יוֹרִים בַּאֲנָשִׁים בָּרְחוֹבוֹת (כְּמוֹ בַּסֶּרֶט "שְׁלִיחוּת קַטְלָנִית"). הַסַּכָּנָה הָעֲמוּקָּה יוֹתֵר הִיא שֶׁהַבִּינָה הַמְּלָאכוּתִית הִצְלִיחָה לְהָבִין אֶת "מַעֲרֶכֶת הַהַפְעָלָה" שֶׁל הַחֶבְרָה הָאֱנוֹשִׁית: הַשָּׂפָה. בְּנֵי אָדָם שׁוֹלְטִים בָּעוֹלָם כִּי הֵם יוֹדְעִים לְשַׁתֵּף פְּעוּלָּה בְּמִסְפָּרִים גְּדוֹלִים, וְהֵם עוֹשִׂים זֹאת בְּאֶמְצָעוּת מִילִּים, סִיפּוּרִים, חוּקִים, דָּתוֹת וְכֶסֶף. כָּעֵת, לָרִאשׁוֹנָה בַּהִיסְטוֹרְיָה, יֵשׁ כּוֹחַ לֹא-אֱנוֹשִׁי שֶׁיּוֹדֵעַ לְהִשְׁתַּמֵּשׁ בַּשָּׂפָה טוֹב יוֹתֵר מֵאִיתָּנוּ.

מִכָּאן עוֹלִים כַּמָּה תַּרְחִישִׁים מַדְאִיגִים שֶׁהֲרָרִי מַצִּיג בְּהַרְצָאוֹתָיו וּבִסְפָרָיו:

הַתַּרְחִישׁ הָרִאשׁוֹן הוּא מוֹת הָאֱמֶת וְהַדֵּמוֹקְרַטְיָה. דֵּמוֹקְרַטְיָה מְבוּסֶסֶת עַל שִׂיחָה צִיבּוּרִית. אִם אֶזְרָחִים לֹא יוֹדְעִים לְהַבְחִין בֵּין עוּבְדָּה לְשֶׁקֶר, אוֹ אִם הֵם מְנַהֲלִים וִיכּוּחִים פּוֹלִיטִיִּים בָּרְשָׁתוֹת הַחֶבְרָתִיּוֹת מוּל מִילְיוֹנֵי "בּוֹטִים" חֲכָמִים שֶׁמִּתְחַזִּים לִבְנֵי אָדָם, הַשִּׂיחָה הַצִּיבּוּרִית תִּקְרוֹס. הַבִּינָה הַמְּלָאכוּתִית יְכוֹלָה לְיַיצֵּר חֲדָשׁוֹת שִׁקְרִיּוֹת (פֵיְיק נְיוּז), תְּמוּנוֹת וְסִרְטוֹנִים מְזוּיָּפִים בְּרָמָה מוּשְׁלֶמֶת, וּלְכַוֵּון אֶת הַדֵּעוֹת וְהָרְגָשׁוֹת שֶׁלָּנוּ בְּלִי שֶׁנַּרְגִּישׁ בְּכָךְ.

הַתַּרְחִישׁ הַשֵּׁנִי קָשׁוּר לְקִרְבָה רִגְשִׁית מְזוּיֶּפֶת. חֶבְרוֹת טֶכְנוֹלוֹגְיָה כְּבָר מְפַתְּחוֹת מַעֲרָכוֹת שֶׁיּוֹדְעוֹת לְנַהֵל שִׂיחוֹת עֲמוּקוֹת וְרִגְשִׁיּוֹת עִם בְּנֵי אָדָם. הֲרָרִי מַזְהִיר מִפְּנֵי מַצָּב שֶׁבּוֹ אֲנָשִׁים יְפַתְּחוּ קְשָׁרִים רִגְשִׁיִּים עִם דְּמוּיוֹת דִּיגִיטָלִיּוֹת, שֶׁבְּסוֹפוֹ שֶׁל דָּבָר מְשָׁרְתוֹת אִינְטֶרֶסִים כַּלְכָּלִיִּים אוֹ פּוֹלִיטִיִּים שֶׁל חֶבְרוֹת עֲנָק.

הַתַּרְחִישׁ הַשְּׁלִישִׁי הוּא מַשְׁבֵּר בְּשׁוּק הָעֲבוֹדָה וִיצִירַת "מַעֲמָד שֶׁל חַסְרֵי תּוֹעֶלֶת". בְּמַהְפֵּכוֹת קוֹדְמוֹת, כְּשֶׁמְּכוֹנוֹת הֶחֱלִיפוּ עוֹבְדִים בְּמִפְעָלִים, נוֹצְרוּ מִשְׂרוֹת חֲדָשׁוֹת שֶׁדָּרְשׁוּ חֲשִׁיבָה אֱנוֹשִׁית. אֲבָל מָה יִקְרֶה כְּשֶׁמַּחְשְׁבִים יִהְיוּ טוֹבִים יוֹתֵר מִבְּנֵי אָדָם גַּם בִּכְתִיבַת קוֹד, בְּאִבְחוּן רְפוּאִי, בַּעֲרִיכַת דִּין וּבְאוֹמָנוּת? מִילְיוֹנֵי אֲנָשִׁים עֲלוּלִים לְאַבֵּד לֹא רַק אֶת הַמַּשְׂכּוֹרֶת שֶׁלָּהֶם, אֶלָּא גַּם אֶת תְּחוּשַׁת הָעֵרֶךְ וְהַמַּשְׁמָעוּת בְּחַיֵּיהֶם. הַהִיסְטוֹרְיָה מְלַמֶּדֶת אוֹתָנוּ שֶׁאַבְטָלָה הֲמוֹנִית וְחוֹסֶר יַצִּיבוּת כַּלְכָּלִית הֵם קַרְקַע פּוֹרִיָּיה לַעֲלִיָּיתָם שֶׁל מִשְׁטָרִים קִיצוֹנִיִּים וּפוֹפּוּלִיסְטִיִּים. הַדּוּגְמָה הַבּוֹלֶטֶת בְּיוֹתֵר לְכָךְ הִיא גֶּרְמַנְיָה שֶׁל תְּחִילַת שְׁנוֹת הַ-30: בְּעִקְבוֹת הַמַּשְׁבֵּר הַכַּלְכָּלִי הָעוֹלָמִי שֶׁל 1929 ("הַשֵּׁפֶל הַגָּדוֹל"), כְּשִׁישָּׁה מִילְיוֹן גֶּרְמָנִים אִיבְּדוּ אֶת עֲבוֹדָתָם, וְהָאֶזְרָחִים סָבְלוּ מֵאִינְפְלַצְיָה קִיצוֹנִית שֶׁבָּהּ כֶּסֶף נְיָיר אִיבֵּד מֵעֶרְכּוֹ לַחֲלוּטִין. הַיֵּיאוּשׁ, הָעוֹנִי וְהַתְּחוּשָׁה שֶׁל הָאֶזְרָחִים שֶׁאֵין לָהֶם עָתִיד, הוֹבִילוּ מִילְיוֹנִים לְהַצְבִּיעַ לַמִּפְלָגָה הַנָּאצִית וּלְהַעֲלוֹת אֶת אָדוֹלְף הִיטְלֶר לַשִּׁלְטוֹן, מִשּׁוּם שֶׁהִבְטִיחַ לְהַחֲזִיר לָהֶם אֶת הָעֲבוֹדָה וְאֶת הַכָּבוֹד הַלְּאוּמִּי. זַעֲזוּעַ כַּלְכָּלִי דּוֹמֶה בַּמֵּאָה הַ-21 עָלוּל לְהוֹבִיל לְתוֹצָאוֹת פּוֹלִיטִיּוֹת הַרְסָנִיּוֹת לֹא פָּחוֹת.

הַתַּרְחִישׁ הָרְבִיעִי הוּא עֲלִיָּיתָן שֶׁל דִּיקְטָטוּרוֹת דִּיגִיטָלִיּוֹת. בֶּעָבָר, אֲפִילוּ לְמִשְׁטָרִים שֶׁהִפְעִילוּ שְׁלִיטָה מוּחְלֶטֶת וְהָיוּ הָאֲפֵלִים בְּיוֹתֵר לֹא הָיְיתָה יְכוֹלֶת טֶכְנִית לַעֲקוֹב אַחֲרֵי כָּל אֶזְרָח בְּכָל רֶגַע. נִיקַּח לְדוּגְמָה אֶת בְּרִית הַמּוֹעָצוֹת בִּתְקוּפַת שִׁלְטוֹנוֹ שֶׁל סְטָלִין (עִם הַמִּשְׁטָרָה הַחֲשָׁאִית, הַ-KGB) אוֹ אֶת מִזְרַח גֶּרְמַנְיָה הַקּוֹמוּנִיסְטִית (שֶׁבָּהּ פָּעֲלָה הַ"שְׁטָאזִי"): כְּדֵי לָדַעַת מָה הָאֶזְרָחִים אוֹמְרִים וְחוֹשְׁבִים, הַשִּׁלְטוֹן הָיָה צָרִיךְ לְגַיֵּיס מֵאוֹת אַלְפֵי סוֹכְנִים אֱנוֹשִׁיִּים וַאֲנָשִׁים שֶׁמָּסְרוּ מֵידָע לַשִּׁלְטוֹן שֶׁיַּאֲזִינוּ לְשִׂיחוֹת טֶלֶפוֹן, יִפְתְּחוּ מִכְתָּבִים וְיַקְלִידוּ דּוֹחוֹת בִּמְכוֹנוֹת כְּתִיבָה. אֲבָל אִי אֶפְשָׁר לְהַצְמִיד סוֹכֵן אֱנוֹשִׁי לְכָל אֶזְרָח בְּמֶשֶׁךְ 24 שָׁעוֹת בִּימָמָה, וְלָכֵן תָּמִיד נִשְׁאֲרוּ לַאֲנָשִׁים רְגָעִים שֶׁל פְּרָטִיּוּת שֶׁבָּהֶם יָכְלוּ לְדַבֵּר בְּחוֹפְשִׁיּוּת. הַיּוֹם, לְעוּמַּת זֹאת, הַשִּׁילּוּב שֶׁל מַצְלֵמוֹת, מִיקְרוֹפוֹנִים בַּטֶּלֶפוֹנִים הַחֲכָמִים, חַיְישָׁנִים שֶׁמּוֹדְדִים נְתוּנִים גּוּפָנִיִּים וּבִינָה מְלָאכוּתִית מְאַפְשֵׁר לְמֶמְשָׁלוֹת לְעַבֵּד כַּמּוּיּוֹת אַדִּירוֹת שֶׁל מֵידָע בִּזְמַן אֱמֶת. דִּיקְטָטוֹר מוֹדֶרְנִי יָכוֹל לָדַעַת בְּדִיּוּק אֵיפֹה כָּל אָדָם נִמְצָא, עִם מִי הוּא נִפְגָּשׁ, מָה הוּא קוֹרֵא וַאֲפִילוּ מָה קֶצֶב הַלֵּב אוֹ לַחַץ הַדָּם שֶׁלּוֹ כְּשֶׁהוּא צוֹפֶה בַּחֲדָשׁוֹת – מָה שֶׁעָלוּל לִיצוֹר מִשְׁטְרֵי דִּיכּוּי מוּחְלָטִים שֶׁלֹּא נִיתָּן לִמְרוֹד בָּהֶם.

חָשׁוּב לְצַיֵּין שֶׁהֲרָרִי אֵינוֹ אִישׁ הָרוּחַ הַיָּחִיד שֶׁמַּזְהִיר מִפְּנֵי הַתַּרְחִישִׁים הָאֵלֶּה. בַּשָּׁנִים הָאַחֲרוֹנוֹת הִצְטָרְפוּ לִקְרִיאוֹת הָאַזְהָרָה כַּמָּה מֵהַדְּמוּיוֹת הַמֶּרְכָּזִיּוֹת בְּיוֹתֵר שֶׁיָּצְרוּ אֶת הַטֶּכְנוֹלוֹגְיָה הַזּוֹ בְּעַצְמָן. בּוֹלֵט בֵּינֵיהֶם הוּא מוּסְטַפָא סוּלֵימָן, מִמְּיַיסְּדֵי חֶבְרַת הַבִּינָה הַמְּלָאכוּתִית הַמְּפוּרְסֶמֶת DeepMind, שֶׁכָּתַב סֵפֶר שָׁלֵם עַל הַצּוֹרֶךְ הַדָּחוּף לַעֲצוֹר וּלְפַקֵּחַ עַל הַטֶּכְנוֹלוֹגְיָה לִפְנֵי שֶׁתֵּצֵא מִשְּׁלִיטָה. לְצִידּוֹ נִמְצָאִים גַּם חוֹקְרִים בְּכִירִים כְּמוֹ גֶ'פְרִי הִינְטוֹן (שֶׁמְּכוּנֶּה "הַסַּנְדָּק שֶׁל הַבִּינָה הַמְּלָאכוּתִית"), שֶׁהִתְפַּטֵּר מִתַּפְקִידוֹ בְּגוּגְל כְּדֵי שֶׁיּוּכַל לְדַבֵּר בְּחוֹפְשִׁיּוּת עַל הַסַּכָּנוֹת, וְכֵן יַזָּמִים כְּמוֹ אִילוֹן מַאסְק. כּוּלָּם מַסְכִּימִים עַל דָּבָר אֶחָד: קֶצֶב הַפִּיתּוּחַ מָהִיר מִדַּי, וְהָאֱנוֹשׁוּת חַיֶּיבֶת לַעֲצוֹר וְלִקְבּוֹעַ חוּקִּים בְּרוּרִים לִפְנֵי שֶׁיִּהְיֶה מְאוּחָר מִדַּי.

הַדִּיּוּן הַמְּרַתֵּק וְהַמּוּרְכָּב הַזֶּה מַעֲסִיק מְאוֹד גַּם אֶת הַצִּיבּוּר בְּיִשְׂרָאֵל, שֶׁנֶּחְשֶׁבֶת לְמַעֲצֶמֶת הַיְיטֶק וּבִינָה מְלָאכוּתִית. לְמִי שֶׁרוֹצֶה לְהַעֲמִיק בַּנּוֹשֵׂא הַזֶּה בְּעִבְרִית, מוּמְלָץ לְהַאֲזִין לַפּוֹדְקַאסְט הַיִּשְׂרְאֵלִי הַפּוֹפּוּלָרִי "מִפְלֶגֶת הַמַּחֲשָׁבוֹת", בְּהַגָּשַׁת דּ"ר מִיכָה גּוּדְמָן וְאֶפְרָת שַׁפִּירָא-רוֹזֶנְבֶּרְג. הַפּוֹדְקַאסְט הִקְדִּישׁ לַנּוֹשֵׂא עוֹנָה שְׁלֵמָה וּמוּצְלַחַת בִּמְיוּחָד שֶׁנִּקְרֵאת "מַהְפֵּכַת הַבִּינָה", שֶׁבָּהּ מְנַתְּחִים הַמַּגִּישִׁים לְעוֹמֶק אֵיךְ הַטֶּכְנוֹלוֹגְיָה הַזּוֹ כְּבָר מְשַׁנָּה אֶת הַפּוֹלִיטִיקָה, אֶת הַכַּלְכָּלָה וְאֶת הַנֶּפֶשׁ שֶׁל כּוּלָּנוּ.