[Перевод] Мы взломали ИИ Gemini от Google и опубликовали его исходный код
В 2024 году мы опубликовали блог-пост We Hacked Google A.I. for $50,000 , в котором рассказали, как в 2023 году мы отправились в Лас-Вегас вместе с Джозефом «rez0» Тэкером, Джастином «Rhynorater» Гарднером и мной, Рони «Lupin» Карта, в настоящее путешествие по взлому, которое прошло от Лас-Вегаса через Токио до Франции – всё ради поиска уязвимостей в Gemini на мероприятии Google LLM bugSWAT. И, что вы думаете? Мы сделали это снова … Мир генеративного искусственного интеллекта (GenAI) и больших языковых моделей (LLMs) по-прежнему остаётся диким Западом в сфере технологий. С момента появления GPT гонка за лидерством в области LLM только накаляется, и такие технологические гиганты, как Meta, Microsoft и Google, стремятся создать лучшую модель. Но теперь на сцене появляются и Anthropic, Mistral, Deepseek и другие, оказывающие масштабное влияние на индустрию. Пока компании спешат внедрять AI‑ассистентов, классификаторы и всевозможные инструменты на базе LLM, остаётся один важный вопрос: строим ли мы системы с учётом безопасности? Как мы подчёркивали в прошлом году, стремительное принятие технологий иногда заставляет нас забывать о базовых принципах защиты, открывая дорогу как новым, так и старым уязвимостям. ИИ-агенты стремительно становятся следующим прорывом в мире искусственного интеллекта. Эти интеллектуальные сущности используют продвинутые цепочки рассуждений – процесс, в котором модель генерирует логически связанную последовательность внутренних шагов для решения сложных задач. Документируя ход своих мыслей, агенты не только улучшают способность принимать решения, но и обеспечивают прозрачность, позволяя разработчикам и исследователям анализировать и совершенствовать их работу. Такая динамичная комбинация автономного действия и видимых рассуждений прокладывает путь к созданию ИИ-систем, которые становятся более адаптивными, понятными и надёжными. Мы наблюдаем, как появляется всё больше приложений – от интерактивных ассистентов до сложных систем поддержки принятия решений. Интеграция цепочек рассуждений в ИИ-агентах задаёт новый стандарт того, чего эти модели могут достичь в реальных условиях.
https://habr.com/ru/articles/895546/
![Screenshot of code. Highlighted section:
/** @param {Data} data */
const isValid = data => typeof data === 'object' && typeof data.rowIndex === 'number' && typeof data.columnIndex === 'number' && data.rowIndex >= 0 && data.rowIndex <= rows.length-1 && data.columnIndex >= 0 && data.columnIndex <= rows[0].length-1
/** @param {Data} data */
export function onPixel (data) {
if (!isValid(data)) return
rows[data.rowIndex][data.columnIndex]++
if (rows[data.rowIndex][data.columnIndex] === colours.length) {
rows[data.rowIndex][data.columnIndex] = 0
}
this.everyone.send(kitten.html`
<${Pixel} rowIndex=${data.rowIndex} columnIndex=${data.columnIndex} pixelColourIndex=${rows[data.rowIndex][data.columnIndex]} />
`)
}
const Pixel = ({ rowIndex, columnIndex, pixelColourIndex }) => kitten.html`
<button
id='pixel-${rowIndex}-${columnIndex}'
aria-label='pixel-${rowIndex}-${columnIndex}'
name='pixel'
style='](https://s3-eu-central-1.amazonaws.com/mastodon-aral/media_attachments/files/113/817/632/065/506/801/original/610302cbc0586369.png "Screenshot of code. Highlighted section:
/** @param {Data} data */
const isValid = data => typeof data === 'object' && typeof data.rowIndex === 'number' && typeof data.columnIndex === 'number' && data.rowIndex >= 0 && data.rowIndex <= rows.length-1 && data.columnIndex >= 0 && data.columnIndex <= rows[0].length-1
/** @param {Data} data */
export function onPixel (data) {
if (!isValid(data)) return
rows[data.rowIndex][data.columnIndex]++
if (rows[data.rowIndex][data.columnIndex] === colours.length) {
rows[data.rowIndex][data.columnIndex] = 0
}
this.everyone.send(kitten.html`
<${Pixel} rowIndex=${data.rowIndex} columnIndex=${data.columnIndex} pixelColourIndex=${rows[data.rowIndex][data.columnIndex]} />
`)
}
const Pixel = ({ rowIndex, columnIndex, pixelColourIndex }) => kitten.html`
<button
id='pixel-${rowIndex}-${columnIndex}'
aria-label='pixel-${rowIndex}-${columnIndex}'
name='pixel'
style='")
Keywords: 
Self-Documenting Connect Services: gRPC can be pretty, too.
