Walter Isaacson says tech rivalries are not new and AI should be taught the reasons behind moral rules
Writer and biographer Walter Isaacson said the rivalry between Bill Gates and Steve Jobs was greater than the contest between Sam Altman and Dario Amodei. Discussing today's fight for computing power, he drew a parallel with the era of Carnegie and Rockefeller, when electricity, railways, telegraphs and telephones were developing. Isaacson said competition is beneficial and advocated antitrust measures: in his view, too much cooperation among large companies can keep newcomers out. He also described Nvidia's relationships with companies that buy its chips while trying to replace them with their own solutions as an example of complicated rivalry and cooperation.
Isaacson also described his interest in how to teach AI moral principles. Using Claude as an example, he asked not only what rules a model should be given, but how to explain why it should not lie or kill. He said he was interested in philosophers working on alignment and had recently discussed the subject with people at Anthropic and in San Francisco. Isaacson stressed that he had not yet decided whether this would become a book, or what such a book would be. Separately, he said he was about to publish a book about Marie Curie.
Уолтер Айзексон: соперничество технологических лидеров не ново, а ИИ нужно объяснять моральные причины правил
Писатель и биограф Уолтер Айзексон назвал соперничество Билла Гейтса и Стива Джобса более значительным, чем противостояние Сэма Альтмана и Дарио Амодеи. В разговоре о нынешней борьбе за вычислительные мощности он провел параллель с эпохой Карнеги и Рокфеллера, когда развивались электричество, поезда, телеграф и телефоны. Айзексон считает конкуренцию полезной и выступил за антимонопольные меры: по его мнению, чрезмерное сотрудничество крупнейших компаний может закрыть дорогу новым игрокам. Он также назвал отношения Nvidia и компаний, покупающих ее чипы, но одновременно пытающихся заменить их собственными решениями, примером сложного соперничества-сотрудничества.
Айзексон рассказал и о своем интересе к тому, как обучать ИИ моральным принципам. В качестве примера он упомянул Claude и поставил вопрос не только о том, какие правила следует сообщить модели, но и о том, как объяснить ей причины не лгать или не убивать. Он сказал, что интересуется философами, работающими над проблемой alignment, и недавно обсуждал эту тему с людьми из Anthropic и Сан-Франциско. При этом Айзексон уточнил, что пока не определился, станет ли эта тема книгой и какой именно будет книга. Отдельно он сообщил, что собирается опубликовать книгу о Марии Кюри.